记者/竹二
微软近期计画要放宽个人版及企业版的Bing Chat聊天机器人的输入字元上限,预计将由现行的4000字元提高1倍,来到8000字元,只不过正式实施的时程还未知,因为碍於成本问题,扩张服务规模所衍生的营运成本与技术问题还有待克服。
Bing Chat拟开放输入字元达8000个
微软的Bing Chat在今年年初推出时,只要回覆问题超过15次,就会表现出异常的行为,像是与用户有冲突或是出现过激语气,迫使微软缩减用户问答次数及输入字元数。随後在Bing Chat表现越来越稳定後,微软逐步放宽对谈输入内容,目前一次可以询问20个问题、输入4000个字元。7月上线的企业版Bing Chat也有一样的限制。
更多新闻:免费版Bing Chat更强大 连 ChatGTP都输给它
而近日微软表示,他们计画要扩增Windows消费版、企业版的Bing Chat输入字元上限,预计由现行的4000字元增加到8000字元,只不过还等再等一段时间,原因是因为演算法会造成context空间需求增加,因此字元扩增为2倍会让Bing Chat营运成本增加为4倍,据了解,微软正在积极解决这项问题。
维运聊天机器人很烧钱
据了解,营运聊天机器人相当耗费资源,不仅伺服器很耗能,也牵涉更高的冷却成本,根据一份加州大学的研究指出,使用者在微软Bing Chat或是ChatGPT等聊天机器人,每查询一次所散发的伺服器热气,都相当於耗掉1瓶水,而微软自己内部的资料也显示,由於AI系统使用量大增,他们在 2022年全球资料中心用水量,比前一年激增34%。
这些资源的花费与维护对新创公司更是一大考验,就有国外的研究机构预估,OpenAI的ChatGPT一天营运成本高达70万美元,要不是有微软的资金挹注,可能明年就会面临破产的问题。
※更多ChatGPT相关讯息,请参考【生成式AI创新学院】。