关注《田丰说》，每天3分钟，掌握全球AI大事件！本视频由商汤“如影”数字人APP生成。

田老师认为，人类善于倾听和语音叙事，AI与人类的日常主要交互方式是语音，所以保证AIGA语音生成内容符合大众伦理规范，是GPT-4o类产品能否普及到每一个家庭和办公室的重要考核项。

全球AI要闻，GPT-4安全风险为中等，OpenAI发安全评估报告。

8月8日，OpenAI发布AI安全评估报告，揭开了GPT-4o语音功能延迟开放的原因。OpenAI官方称此举是公司与对美国白宫的自愿承诺保持一致。该AI风险评估报告分析指出，GPT-4o的语音模式不会显著增加准备风险。四个风险框架类别中有三个得分较低，说服力得分处于中等边缘。当一个人处于高背景噪声环境中，比如在路上行驶的汽车，GPT-4o能够模拟用户的声音。OpenAI研究者认为，原因可能是模型很难理解畸形的语音，GPT-4o是首次在语音、文本和图像数据上训练的模型。如果在少数别有用心的误导提示下，GPT-4o会发出少儿不宜的语音，比如色情呻吟、暴力尖叫和枪声。一般情况下，模型会被教导拒绝请求，但总有些提示会绕过安全护栏。

此外，还有侵犯版权的问题，OpenAI特意设置了过滤器防止GPT-4o随时随地唱歌。OpenAI也表示，训练模型时不使用受版权保护的材料，是不太可能的。GPT-4o已经通过ChatGPT产品中的高级语音功能Alpha版上线了，今年秋季会向更多用户推出，并经受用户考验。同时，OpenAI官宣卡内基梅隆大学机器学习系的教授和主任Zico Kolter加入OpenAI董事会成员，将对项目关键安全和保障决策提出建议。

每天3分钟，掌握全球AI大事件！《田丰说》全网发布，请点赞、收藏、分享加关注！