首页 > 生活知识 > 每天学习 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57 来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

每天学习更多>>

欧盟对华电动车价格承诺机制落地,价格承诺机制如何运作?? 吉利银河官宣M系列首款中级电混SUV定名“银河M7” 小鹏汽车官方宣布,全球首款AI汽车2026款小鹏P7+正式开启海外大规模发运 通用汽车缩减加拿大工厂生产班次,裁员约500人 广汽集团有望在2026年持续释放增长潜力,启境、Robotaxi等新业务的逐步落地 1月,奇瑞集团累计销售汽车200269辆,站稳20万关口,其中出口119605辆,同比大增48.1% 2026年1月,蔚来汽车旗下全新ES8车型单月交付17,646台 芯擎科技与卓驭科技在近日正式签署战略合作协议。双方将围绕“芯片算力+智驾系统”展开深度协同 罗永浩被禁言后现身B站颁奖典礼 获年度新人奖 并上台发表感言 DeepSeek震惊硅谷将满一周年 金融时报:中国将赢得AI竞争 美国软件股开年暴跌!“无所不能”的Claude开始抢生意? 华尔街预测“今年美股牛市”:不再局限于科技股,将“多点开花”! 中产为什么还没放弃山姆? 马斯克强推FSD订阅制,特斯拉车主什么反应? 超过一半加密代币已“阵亡” 2025年成项目死亡高峰年 “死了么”App的爆款奇迹,被AI五分钟复制 荣耀方飞透露Magic8 Pro Air青海湖电池有黑科技 2025年销超460万辆再夺“三冠”,比亚迪用成绩让质疑者闭嘴 全年291.3万辆,只是长安汽车的表象 数说2025:合资车企大众第一丰田随后 其他看不见尾灯了 全新奔驰GLB国内谍照曝光,延续海外设计,内饰才是看点 全新一代奥迪A6 Allroad曝光,配插混动力,或年中发布 2025预计新能源批发同增25% 12月前三均为自主 不是“驴火”:长城魏建军宣布新平台名称为“归元” 受半导体短缺影响,本田中国工厂复工时间再度推迟 时代长安动力电池公司一期扩能项目投产 牛津博士后创业,智子力控完成首轮千万元级融资 通过“中间商”买车无法按约提车?深蓝汽车、阿维塔发布声明 小米汽车10月零售销量48654辆,YU7单月批发33662辆 特斯拉Model Y项目负责人宣布离职