RPC：Remote Procedure Calls，远程函数调用。
假设有两台服务器 A，B，一个应用部署在 A 服务器上，想要调用 B 服务器上应用提供的函数/方法，由于不在一个内存空间，不能直接调用，需要通过网络来表达调用的语义和传达调用的数据。

深入浅出RPC

01 基本概念

IDL(Interface description language)文件：IDL通过一种中立的方式来描述接口，使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信。
生成代码GenCode：通过编译器工具把IDL文件转换成语言对应的静态库。
编解码Encoder/Decoder：从“内存中表示”到“字节序列”的转换称为编码，反之为解码，也常叫做序列化和反序列化。
通信协议Protocol：规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外，通常还会包含额外的元数据。
网络传输Transfer：通常基于成熟的网络库走TCP/UDP传输。

我们以 Apache Thrift 为例进行介绍。
Apache Thrift 是一款基于 C/S 架构的 RPC 框架，最初由 Facebook 研发，2008 年转入 Apache 组织。
RPC框架的主要核心有三层：编解码层、协议层和网络通信层。

以 Thrift 的 BinaryProtocol 中的 TLV 编码为例：
- Tag：标签，可以理解为类型。
- Length：长度。
- Value：值，Value 也可以是个 TLV 结构。

保障策略：
- 熔断：保护调用方，防止被调用的服务出现问题而影响到整个链路。
- 限流：保护被调用方，防止大流量把服务压垮。
- 超时控制：避免浪费资源在不可用节点上。
提高请求成功率：负载均衡、重试。
长尾请求：长尾请求一般是指明显高于均值的那部分占比较小的请求。业界关于延迟有一个常用的 P99 标准，也就是99%的请求延迟要满足在一定耗时以内， 1%的请求会大于这个耗时，而这1%就可以认为是长尾请求。
- 解决方法：Backup Request，备份请求。
注册中间件：RPC 框架通过中间件来注入各种服务治理策略，保障服务的稳定性。

背景：
- 原生库无法感知连接状态：在使用连接池时，池中存在失效连接，影响连接池的复用。
- 原生库存在goroutine暴涨的风险：一个连接一个goroutine的模式，由于连接利用率低下，存在大量goroutine占用调度开销，影响性能。
**自研网络库 - netpoll**：
- 解决无法感知连接状态问题：引入epoll主动监听机制，感知连接状态
- 解决goroutine暴涨的风险：建立goroutine池，复用goroutine
- 提升性能：引入Nocopy Buffer，向上层提供NoCopy的调用接口，编解码层面零拷贝

支持多协议，也支持灵活的自定义协议扩展。
Interaction Ping-Pong / Streaming / Oneway
Codec Thrift / Protobuf
Application Layer Protocol TTHeader / HTTP2 / -
Transport Layer TCP / UDP / RDMA

网络库优化：
- 调度优化：
  - epoll_wait在调度上的控制。
  - gopool重用goroutine降低同时运行协程数。
- LinkBuffer ：
  - 读写并行无锁，支持nocopy地流式读写。
  - 高效扩缩容。
  - Nocopy Buffer池化，减少GC。
- Pool ：
  - 引入内存池和对象池，减少GC开销。
编解码优化：
- Codegen：
  - 预计算并预分配内存，减少内存操作次数，包括内存分配和拷贝。
  - Inline减少函数调用次数和避免不必要的反射操作等。
  - 自研了Go语言实现的Thrift IDL解析和代码生成器，支持完善的Thrift IDL语法和语义检查，并支持了插件机制 - Thriftgo。
- JIT：Just In Time
  - 使用JIT编译技术改善用户体验的同时带来更强的编解码性能，减轻用户维护生成代码的负担。
  - 基于JIT编译技术的高性能动态Thrift编解码器 - Frugal。