IT之家 5 月 9 日消息,微软广告和网络服务负责人米哈伊尔?帕拉欣(Mikhail Parakhin)近日回复网友,针对必应聊天(Bing Chat)响应等待时间过长致歉,并表示 GPU 的添加速度赶不上用户使用量的增加。
IT之家翻译 Parakhin 的推文内容如下:“很抱歉让你遇到了延迟问题。由于使用量不断增长,我们添加 GPU 的速度还不够快。我们会竭尽所能地修复这个问题”。
微软并未公布支撑 Bing Chat 运行使用了多少块 GPU,不过市场调查机构 TrendForce 集邦咨询公布的报告指出,如果以英伟达 A100 显卡的处理能力计算,运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。