1) 明确TPS/并发连接数、平均/峰值带宽、目标P99/P95延迟。
2) 确定是否需要会话亲和、长连接(WebSocket、游戏)、或短连大量请求。
3) 编制SLA与流量增长预估,作为采购台湾原生IP与带宽的基础。
1) Anycast 全球加速(首选用于全局用户访问台湾出口,多点路由到最近PoP)。
2) 台湾本地弹性负载(BGP/专线/托管机房):直连台湾ISP,得到真实台湾出口IP。
3) 反向代理/边缘代理(NGINX/Envoy/HAProxy/Caddy)配合本地IP出口做会话加速。
4) CDN+原生IP:静态资源走CDN,动态API通过台湾加速器回源。
1) 联系有台湾机房或ASN的厂商,索要可用IP段与AS路径证明(确认原生台湾归属)。
2) 选择带宽计费与峰值弹性方案,签署SLA,确认DDoS清洗与链路冗余。
3) 若需自有IP段:通过LIR/ISP申请并委托台湾ISP承载与BGP公告;或租用ISP提供的带公网路由的IP段。
1) 系统必备:Linux内核(4.14+)、epoll、ulimit调整。执行示例:ulimit -n 200000。
2) NGINX配置(核心)示例:worker_processes auto; worker_rlimit_nofile 200000; events { use epoll; worker_connections 65536; multi_accept on; } http { keepalive_timeout 20; sendfile on; tcp_nodelay on; }。
3) 启用SO_REUSEPORT与accept mutex调优,尽量使用多进程+epoll以提高并发接入能力。
将以下内核参数追加到 /etc/sysctl.conf 并 sysctl -p:
net.core.somaxconn=65535
net.core.netdev_max_backlog=250000
net.ipv4.tcp_max_syn_backlog=65536
net.ipv4.tcp_tw_reuse=1
net.ipv4.tcp_fin_timeout=15
net.ipv4.ip_local_port_range=10240 65535
此外调整 file-max 与系统 open files:echo 300000 > /proc/sys/fs/file-max,并在 /etc/security/limits.conf 为服务账号设置 nofile 200000。
1) 使用四层负载均衡(L4)分散大量短连接,避免L7代理成为瓶颈。可用LVS+IPVS或云厂商LB。
2) 对需要粘滞会话的应用,采用基于Cookie或源IP的粘滞策略;若跨多节点共享会话,建议用Redis/Session共享或JWT免状态。
3) 对长连接服务(WebSocket),用TCP代理并按连接数做均衡,限制单节点最大连接数并开启后端拓展策略。
1) 启用HTTP/2复用减少连接数,示例NGINX:listen 443 ssl http2;。
2) 若条件允许,部署QUIC/HTTP3(支持更好的丢包恢复与并发),可用Caddy或支持QUIC的边缘代理。
3) 开启TLS会话复用、OCSP Stapling、选择适合的证书与ECDSA算法减小握手成本。
1) 在台湾接入层部署流量清洗或启用厂商DDoS防护。与提供方约定清洗门槛与黑洞策略。
2) 在边缘做连接速率限制、SYN Cookies、iptables限速规则示例:iptables -A INPUT -p tcp --syn -m connlimit --connlimit-above 1000 -j DROP。
3) 监控异常流量并触发旁路切换到清洗中心。
1) 原地压测:使用wrk2/wrk或k6做并发压测。示例 wrk -t8 -c2000 -d60s --latency http://<台湾IP>:80/。
2) 端到端带宽与流量测试:iperf3 -c <目标> -P 16 -t 60。
3) 分阶段测试:先单节点到极限,再做LB层并发测试,记录连接数、95/99延迟、错误率,逐项调优。
1) 必配置:连接数、accept队列、TCP状态分布、CPU、memory、网卡丢包、带宽利用。
2) 使用Prometheus+Grafana收集指标,并设置告警(P95延迟、连接使用率、错误率)。
3) 建立自动扩容或预案:触发阈值后自动增池或流量切蓝,且保留回滚方案。
1) 编写故障演练脚本:停掉一台边缘节点、观察LB是否均匀切流、是否有连接丢失。
2) BGP切换演练:与台湾ISP测试备用链路公告并测P95变化。
3) 定期做容量预演与DDoS恢复演练,确保SOP与联系人清单可执行。
答:当业务对台湾本地到源的最小化延迟、台湾本地银行卡/支付白名单、或法规/IP地理定位相关(需台湾IP)有硬性要求时,必须使用台湾原生IP;同时需高并发长连接(如游戏/实时通信)且CDN无法承载动态回源压力时,原生IP能提供更稳定的会话和路由可控性。
答:Anycast优先用于面向全球的用户访问,加速到最近PoP并提供故障自动就近切换;若目标是台湾本地用户且需本地出口IP/低抖动,则优先考虑在台湾做本地BGP/专线,或在台湾机房部署边缘代理并直接暴露台湾原生IP,两者可组合使用(Anycast到台湾PoP,再本地BGP出网)。
答:建立SLA监测与每周回顾,步骤:1) 每周对关键指标(P99、错误率、连接数)对比并记录;2) 基于压测结果调整sysctl与代理配置并回归测试;3) 按流量峰值提前扩容单元并在非业务高峰期执行切换演练;4) 与台湾ISP保留沟通窗口,优化BGP策略和清洗策略。