我在探索ChatGPT的使用过程中,发现了一个有趣的现象:ChatGPT在实现流式返回的时候,选择了SSE(Server-Sent Events),而非WebSocket。

那么问题来了:为什么ChatGPT选择了SSE,而不是WebSocket呢。

SSE是什么?

SSE,全称Server-Sent Events,译为服务器发送事件,它是一种Web技术,允许服务器端实时地向客户端推送信息。SSE运行在HTTP协议之上,它利用持久化的HTTP连接,以事件流(Event Stream)的形式将数据发送给客户端,由客户端监听后获取。服务器端会定期向这个连接发送更新,这些更新被封装在一个或多个HTTP包中,每个包含有更新的事件流。这样,当有新的更新时,服务器就不需要等待客户端的请求,而是直接将数据推送给客户端。当连接被关闭或出现故障时,客户端会自动重新发送请求,重新建立连接。这确保了数据传输的连续性和实时性。

那么,SSE有什么优点呢?

  1. 单向通信:SSE只支持从服务器到客户端的单向通信,服务器可以主动发送数据,用户只能接收。
  2. 高效实时:因使用持久化连接,服务器可以实时地将数据推送给客户端,而无需客户端频繁发起请求。

什么是WebSocket?

WebSocket是一种网络通信协议,它最早被提出来是为了解决HTTP连接的一大限制:HTTP协议中,一个客户端发送给服务端的请求必须由服务端返回一个响应,这使得服务端无法主动向客户端推送数据。WebSocket的通信过程如下:

  1. 客户端通过发送一个特殊的HTTP请求向服务器请求建立WebSocket连接。这个请求类似于:GET /chat HTTP/1.1 Upgrade: websocket Connection: Upgrade
  2. 服务器响应这个请求,确认建立WebSocket连接。这个响应类似于:HTTP/1.1 101 Switching Protocols Upgrade: websocket Connection: Upgrade
  3. 之后,客户端和服务器就可以通过这个常开的连接自由地发送或接收消息。

SSE与WebSocket的比较

你可能疑问,为什么不直接使用WebSocket,它似乎更为通用,也同样支持实时数据推送。这就是我们需要对比两者的理由。

  1. 通信模式:SSE只支持服务器向客户端的单向通信,而WebSocket支持全双工通信,即服务器和客户端可以互相发送数据。对于ChatGPT这样的应用来说,大多数情况下,用户的请求是稀疏的,而服务器的响应是密集的,因此,SSE的单向通信模式更为合适。
  2. 网络协议:SSE运行在HTTP协议上,因此,它可以提供更高的兼容性和灵活性。举个例子,如果你的产品已经部署在Web服务器上,那么你大概率无需做任何改动,就可以使用SSE技术。而WebSocket则需要单独的服务器和端口。

除此之外,SSE和WebSocket在消息大小、连接数量、跨域支持等方面都有一些细微的差别,我们在具体设计时需要根据实际需求和制约因素做出选择。

使用Golang和React实践SSE

首先,我们需要创建一个Golang服务器。这个服务器将监听8000端口,等待客户端的SSE连接请求,并定时向连接发送消息。为了简单起见,这里我们假设服务器每秒产生一条新消息。以下是Golang服务器的代码:

package main
​
import (
	"fmt"
	"log"
	"net/http"
	"time"
)
​
func main() {
	http.HandleFunc("/events", func(w http.ResponseWriter, r *http.Request) {
		w.Header().Set("Content-Type", "text/event-stream")
		w.Header().Set("Connection", "keep-alive")
		w.Header().Set("Cache-Control", "no-cache")
		w.Header().Set("Access-Control-Allow-Origin", "*")
​
		for {
			fmt.Fprintf(w, "data: Message at %s\n\n", time.Now())
			if flusher, ok := w.(http.Flusher); ok {
				flusher.Flush()
			} else {
				log.Println("Streaming unsupported!")
				return
			}
			time.Sleep(time.Second)
		}
	})

	http.Handle("/", http.FileServer(http.Dir("static")))
	log.Println("Listening on localhost:8000")
	http.ListenAndServe("localhost:8000", nil)
}

然后,我们需要创建一个React客户端,这个客户端会建立与Golang服务器的SSE连接,并在收到新消息时更新页面。以下是React客户端的代码:

import React, { useEffect, useState } from 'react';
​
function App() {
  const [events, setEvents] = useState([]);
​
  useEffect(() => {
    const eventSource = new EventSource('http://localhost:8000/events');
    eventSource.onmessage = (event) => {
      setEvents((prevState) => [...prevState, event.data]);
    };
  }, []);
​
  return (
    <div className="App">
      <h1>Live updates from server</h1>
      {events.map((event, i) => <p key={i}>{event}</p>)}
    </div>
  );
}
export default App;

这个应用程序将从服务器接收一个每秒更新一次的实时数据流,并在客户端将这些更新显示出来。

总结

通过以上的分析和代码示例,我们可以明白为什么ChatGPT会选择使用SSE而非WebSocket。请记住,无论选择哪种实时数据推送技术,必须考虑到你的应用程序的具体需求,例如数据更新的速度、服务器和客户端的能力、网络条件等等。

如果上面的内容对你有帮助,请点赞收藏哦,我会分享更多的经验~

相关文章

如何在 ChatGPT 上使用 Wolfram 插件回答数学问题

集成了 Wolfram 插件的 ChatGPT 能够向 Wolfram|Alpha 提出具体问题,并利用 Wolfram 的计算知识和数据资源生成更精确和准确的答案。这两者结合的方式是通过在 ChatGPT 上集成 Wolfram 插件,使 ChatGPT 能够利用 Wolfram|Alpha 的计算知识和 Wolfram 语言的强大功能。最关键的是,它不仅提供了解决方案的分步说明,还提供了答案的视觉参考,使得 Wolfram 成为在使用 ChatGPT 学习和解决数学问题时的理想辅助工具。

网络知识-以太网技术的发展及网络设备

大家都被互联网上各种各样的内容、技术闪亮了眼睛,没有太多人去了解比较底层的一些网络技术。面试的时候,我也问过很多技术人员,对以太网是否了解,了解多少?但是很多人都知之甚少!但是,在我们实际工作碰到问题、分析问题、定位问题、解决问题的时候,又必须要了解这方面的知识。以太网最初到现在的主要设备包括集线器、中继器、网桥、交换机。以太网目前应用在很多行业,在视频监控、安防、视频会议等领域都有很广泛的应用。

详解静态网页数据获取以及浏览器数据和网络数据交互流程-Python

在网站设计领域,基于纯HTML格式构建的网页通常定义为静态网页,这种类型的网页是早期网站建设的主要形式。对于网络爬虫来说,抓取静态网页中的数据相对较为简单,因为所需的所有信息都直接嵌入在网页的HTML代码里。然而,对于那些利用AJAX技术动态加载数据的网页,其数据并不总是直接出现在HTML代码中,这对爬虫的抓取工作造成了一定的难度。在静态网页的数据抓取过程中,Requests库显示出其卓越的实用性。这个库不仅功能全面,而且操作简洁直观。

【AI】人工智能复兴的推进器之神经网络

神经网络是一种模仿生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型或计算模型,用于对函数进行估计或近似。神经网络由大量节点(或神经元)相互关联构成,每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这可以看作人工神经元的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。此外,根据网络的结构和运行方式,神经网络可以分为前馈神经网络和反馈神经网络。

高效网络爬虫:代理IP的应用与实践

代理IP指的是位于互联网上的一台中间服务器,它充当了爬虫与目标服务器之间的中介角色。通过使用代理IP,爬虫可以隐藏真实的IP地址,使得对目标服务器的请求看起来是来自代理服务器而非爬虫本身。通过使用代理IP,爬虫可以隐藏其真实的IP地址,增强匿名性,防止被目标服务器追踪。代理IP允许爬虫通过多个不同的IP地址发送请求,有效地分散了请求负载,降低了单个IP的请求频率,减轻了对目标服务器的压力。有些网站对特定IP或IP段进行了访问限制,使用代理IP可以帮助爬虫绕过这些限制,获取被封锁的内容。

ChatGPT 也宕机了?如何预防 DDOS 攻击的发生

DDoS 攻击即分布式拒绝服务攻击,是指多个攻击者或者一个攻击者控制了位于不同位置的多台机器,并利用这些机器对受害者同时实施攻击。由于攻击的发出点是分布在不同地方的,这类攻击称为分布式拒绝服务攻击。攻击者会向目标服务器发送大量数据包或请求,以耗尽目标服务器资源,使其无法响应合法用户请求。DDoS 攻击通常会导致目标服务器无法正常工作,造成服务中断、网站崩溃等问题,严重影响合法用户的体验和企业的正常运营。DDoS 攻击的防御措施包括加强网络基础设施安全、配置防火墙和入侵检测系统、及时修复系统和应用程序漏洞等。

ChatGPT在国内的使用限制,国内的ChatGPT替代工具

人工智能技术的发展不仅改变了我们的生活方式,也在各行各业发挥着越来越重要的作用。ChatGPT(Generative Pre-trained Transformer)作为一种先进的自然语言处理模型,由OpenAI推出,其在生成人类般流畅对话方面表现出色。在一些地方是无法使用的,由于一些技术、等多方面原因,直接使用ChatGPT可能受到一定限制。

ChatGPT的常识

ChatGPT不仅可以提供高效的服务,还可以通过模拟人类对话和表情,提高人机交互的趣味性和友好性。其次,ChatGPT可以实现个性化服务,根据用户的个性化需求和反馈不断优化和改进。用户在与ChatGPT进行交互的过程中,ChatGPT可以对用户的个性化需求进行识别和记录,从而实现个性化的服务。ChatGPT的设计理念是建立一个可以持续学习和更新的聊天机器人,可以不断地根据用户的反馈和互动进行优化和改进。同时,ChatGPT还具有很强的适应性和灵活性,可以应对不同场景和话题的要求。

RPC简介和grpc的使用

调用客户端句柄,执行传递参数。调用本地系统内核发送网络消息。消息传递到远程主机,就是被调用的服务端。服务端句柄得到消息并解析消息。服务端执行被调用方法,并将执行完毕的结果返回给服务器句柄。服务器句柄返回结果,并调用远程系统内核。消息经过网络传递给客户端。客户端接受数据。

人工智能时代:AIGC的横空出世

AIGC是一种新的人工智能技术,即人工智能生成内容。它是一种基于机器学习和自然语言处理的技术,能够自动产生文本、图像、音频等多种类型的内容。

【Java 基础篇】Java网络编程实战:P2P文件共享详解

P2P(Peer-to-Peer)文件共享是一种分布式计算模型,其中每个计算机或设备都可以充当客户端和服务器。这意味着每台计算机都可以上传和下载文件,而不仅仅是从一个中心服务器获取文件。P2P文件共享有许多优势,包括更快的下载速度、更高的可用性和更好的容错性。P2P文件共享是一种强大的分布式文件共享模型,可以提供更快的下载速度和更好的可用性。通过使用Java网络编程,我们可以实现P2P文件共享,让不同的客户端之间可以方便地共享文件。
返回
顶部