AI风险
-
谷歌CEO对Gemini AI生成偏见内容表示“不可接受”
谷歌CEO桑达尔·皮查伊近日通过内部备忘录向员工表示,公司对于其AI模型Gemini生成的不准确且具有偏见的图像和文字内容感到“不可接受”。这些内容涉及历史事件的错误描述,如展示种族多样化的纳粹德国士兵或非白人的…
-
亚马逊研究者指出,大语言模型的训练需警惕数据陷阱
据 Techradar 报道,亚马逊的研究人员提醒,在大语言模型的训练过程中,需要警惕数据陷阱。他们指出,当前网络上存在大量由机器翻译生成的内容,这些低质量的内容可能会对训练过程造成困扰。 研究人员发现,大量网…
-
OpenAI规定董事会可阻止CEO发布新模型,加强AI风险管理
近日,OpenAI公布了一系列关于防范AI风险的指导方针,其中明确规定,即使公司领导层认为将发布的AI模型是安全的,其董事会也有权选择推迟发布该模型。这一举措旨在加强AI风险管理,确保AI技术的安全和可持续发展。 …
-
研究显示ChatGPT不适用于获取药物医疗信息,答案可能误导用户
近日,长岛大学的一项研究引发了对ChatGPT在药物医疗信息获取方面的关注。研究结果显示,ChatGPT并不适用于获取药物医疗信息,因为其回答可能会对用户造成误导。 这项研究由长岛大学的研究人员进行,他们使用免费版…