东南亚 + 南美可用大模型调研:自部署与商业 API 双路线第 1 轮
面向东南亚(印尼/越南/泰/马来/菲律宾/缅甸)与拉美(西语/巴西葡语)市场,回答三个问题:
哪些模型真的懂这些语言、哪些商业 API 在当地有区域端点可用、哪些能私有化部署以满足数据合规。
核心数据来自 AI Singapore SEA-HELM 官方榜单与 AWS Bedrock 各区域实际模型清单。
◆核心结论
结论 1 · 东南亚开源首选
Gemma 4 31B 是 SEA-HELM 榜首(75.16),7 个东南亚语种全面均衡,缅甸语 69.04 远超同级;
单卡可部署。区域主权模型里 SEA-LION v4.5 27B(72.69)紧随其后,语种覆盖最全(11 种)。
结论 2 · 最反直觉发现
南美的模型可用性系统性好于东南亚:Azure 巴西 128 个模型 / 11 家,
而 Azure 东南亚只有 38 个 / 2 家;Bedrock 圣保罗 54 个、新加坡只有 18 个。选区不能凭直觉。
结论 3 · 东南亚选云结论
同一个新加坡,Vertex AI 有 51 个模型、Azure 38 个、Bedrock 只有 18 个。
东南亚优先评估 Vertex AI 新加坡或 Bedrock 雅加达(12 家厂商)。
结论 4 · 小语种断崖
通用大模型在缅甸语上集体崩塌:Nemotron 3 Super 6.11、Olmo 3.1 6.14、GLM 4.7 Flash 10.22。
泰米尔语同样:Tiny Aya 3.21。只有 Gemma 4 与 SEA-LION 系列在小语种上可用。
结论 5 · 拉美有区域模型了
LatamGPT-SFT 1.0 已在 HuggingFace 开放权重:智利 CENIA 牵头、12 国协作,
基于 Llama 3.1 70B 继续预训练,含马普切语等原住民语言,强调拉美西语的本地习惯而非半岛西语。
结论 6 · 葡语的坑
别把欧葡模型当巴西葡语用。AMÁLIA 是欧洲葡语,与巴西葡语在用词、敬语、发音上差异显著;
学界已专门做了 P3B3 基准来测这种变体偏差。巴西客服要用 Sabiá / LatamGPT 或专门验证。
结论 7 · 合规决定架构
越南 2025 年新 PDP Law(91/2025/QH15)、印尼 PDP 跨境分层要求,是两个最高风险市场;
巴西 LGPD 下声纹属敏感数据需单独法律依据。这些直接决定"能不能用境外 API"。
◆三条路线怎么选
路线 A · 商业 API(区域端点)
Bedrock / Vertex / Azure 区域部署
上线最快、无需 GPU。关键是确认目标国有区域端点且该端点真的有你要的模型——
这一点各区差异极大(见云区域章节)。适合合规要求中等、流量不确定的起步阶段。
路线 B · 区域主权模型(自部署)
SEA-LION / Typhoon / LatamGPT
小语种与本地文化最贴合,权重开源可完全私有化。代价是要自己维护推理集群与评测体系。
适合越南/印尼这类高合规风险市场,或方言/下沉市场客服。
路线 C · 通用开源模型(自部署)
Gemma 4 / Qwen3.5 / Llama 4
综合能力最强、生态最好,Gemma 4 在东南亚语种上甚至超过所有主权模型。
适合多语种统一底座 + 各语种少量微调的架构。注意许可差异(Llama 有 MAU 限制)。
实务组合建议:主对话走路线 C(Gemma 4 或 Qwen3.5 自部署)覆盖大部分语种 →
泰语/缅甸语等特殊语种叠加路线 B 的主权模型或专用 ASR(如 Typhoon Isan)→
高峰溢出与灾备走路线 A 的区域 API。避免单一路线绑死。
◆SEA-HELM 官方榜单实测(7 语种)
AI Singapore 官方基准,评估东南亚语言对话、指令遵循与语言学任务。
下表为 批次、≤200B 开源 instruct 模型。分数为 30 次 bootstrap 均值。
东南亚综合得分(SEA Overall)
同一模型的推理/非推理变体只计一次。分数不可与其它榜单直接横比。
小语种断崖对比:缅甸语 vs 印尼语
印尼语大家都还行,缅甸语差距被拉到 10 倍以上——这就是"通用模型能不能覆盖东南亚"的真实答案。
◆云区域可用性:谁在当地真的能用
统计 AWS Bedrock / Google Vertex AI / Microsoft Azure Foundry 三家在目标区域实际可用的模型数与厂商数( 数据)。
这是选型时最容易踩坑的地方——“有区域” ≠ “有模型” ≠ “有 On-Demand”。
三个必查项:① 目标国是否有区域端点;② 该端点是否有你要的具体模型(同一云不同区差 5 倍、同一区不同云差 3 倍);
③ 是否支持 On-Demand——泰国/马来西亚/墨西哥目前不支持,必须走跨区推理,
而跨区推理意味着数据会离境,直接影响合规结论。
◆中国厂商海外节点(中文团队常用路径)
如果团队已经在用千问/豆包/混元,这一节决定你能不能直接把现有方案搬到海外。
关键差异:东南亚都有节点,南美基本只有腾讯云。
阿里云百炼的“服务部署范围”值得单独理解:地域决定接入点与数据存储位置,
部署范围决定推理在哪执行。选新加坡地域时部署范围为“国际”(数据不经过中国内地),
但仍会跨多个境外地域调度推理——如果合规要求“数据不出印尼/越南”,百炼目前没有对应的单国部署范围,需改用自部署。
◆数据合规:决定能否用境外 API
语音场景的额外风险:通话录音通常被认定为个人数据,声纹更是敏感生物识别数据(巴西 LGPD、泰国 PDPA 均如此)。
即使模型推理可以跨境,录音与声纹的存储与传输往往必须留在境内——所以很多团队最终是
"ASR + 声纹在本地,LLM 走区域端点"的混合架构。
◆自部署硬件测算:真要自己跑得花多少卡
估算口径:权重显存 = 参数量 × 每参数字节(FP16=2、FP8=1、INT4=0.5),
再 × 1.2 作为 KV cache 与激活值余量(假设并发 8~16、上下文 8K)。
MoE 模型要按总参数加载——122B-A10B 虽只激活 10B,显存仍需按 122B 算,这是最常见的预算误判。
各模型显存需求对比(GB,对数轴)
对数轴:最小的 PhoGPT 4B 与最大的 397B 相差近 100 倍。实际选型建议以 FP8 为基准。
交叉验证:行业经验值为 70B 模型 FP8 权重约 35GB、实际部署需 2~4×80GB(BF16)或单卡 80GB(INT4 低并发),
与上表 LatamGPT 70B 的估算一致。详细的 GPU 集群 TCO(自建 vs 纯租用 vs 夜间外售)可用
本地 GPU 集群成本测算器直接算。
◆延迟预算:为什么跨区调用在语音场景不可用
以下为公开的多区网关实践经验值(非本项目实测,仅作量级参考,
原文对部分数字自述待复核)。外呼场景的硬约束是首字可播报延迟,超过 1.2s 用户就能明显感知。
延迟与合规是同一个问题的两面:泰国/马来西亚/墨西哥的 Bedrock 区域没有 On-Demand,
必须走跨区推理——这同时意味着延迟翻倍(1600~2200ms)与数据离境。
所以这些市场的语音客服,要么用新加坡/雅加达端点,要么直接自部署。
◆语音客服/外呼落地:分语种速查
三条工程结论
- 不要用一个模型打全区:印尼/越南/马来可以共用 Gemma 4 或 Qwen3.5;泰语建议叠 Typhoon(且它自带实时 ASR 与伊桑方言);缅甸语只有 Gemma 4 / SEA-LION 能用
- 菲律宾要专门处理 Taglish:菲律宾语客服实际是英语-塔加洛混语,纯 TL 分数高不代表混语场景可用,必须用真实通话样本验证
- 拉美西语不等于半岛西语:Salamandra 等欧洲模型的用词与拉美习惯有差异,LatamGPT 的价值正是在此;巴西葡语要单独验证变体偏差
三轮迭代完成情况:
第 1 轮:SEA-HELM 官方榜单 14 模型×7 语种、区域主权模型清单、Bedrock 逐区可用性、七国合规。
第 2 轮:扩展为 Bedrock/Vertex/Azure 三云对比(发现同一区域差 3 倍)、中国厂商海外节点与百炼部署范围机制、
Sahabat-AI/Salamandra 型号校正、相关报告交叉引用。
第 3 轮:新增自部署显存测算(9 个模型 × 三种精度)、延迟预算表、分国落地路径。
仍存在的缺口(已尽力但未取得):SEA-HELM 官方榜单声明已评测 9 个闭源模型(GPT/Claude/Gemini 类),
但该视图需在榜单页交互切换且未提供静态导出,本报告未能拿到具体分数,故不列估值;
如需将闭源模型纳入对比,建议直接访问榜单页切换至 closed-weights 视图查看。
◆数据来源
本报告按三轮迭代方式推进:第 1 轮建立骨架与核心数据,第 2 轮扩展三云对比与中国厂商节点,第 3 轮补自部署测算、延迟预算与分国路径。
当前为 第 1 轮。