首页 > 科技分享 > 科技分享 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

科技分享更多>>

五菱宏光MINIEV四门版来了!空间大了、配置高了、更适合全家出行? 全新Model Y再曝实车图!升级分体式大灯,取消电子式怀挡 手握15万 新能源车有哪些好的推荐? 中大型SUV的优选,多样用车需求皆可满足,体验方程豹豹5 奇瑞瑞虎家族缘何主宰燃油SUV市场? 开年接好运!江铃E福顺&E顺达官宣上市,礼送不停! 开着省心用着省钱,东风风神2025款皓瀚仅6.49万起 创七年新高!长安汽车2024年全年销量超268万辆啦 重返燃油豪华车第一,一汽奥迪为何仍然是豪华车优先选择! “就”在本周四!最高月薪12000元,四团这场微招聘千万别错过→ 良师、恩师——记交城二中高十一班班主任孙兆枢老师 事关2025高考,那些“误解”很深的大学,不要被校名耽误了 西安这所211,新校区选址确定→ 这就是为什么一定要考上985和211大学的原因!建议所有高中生看完 怪不得大学生研究生的质量下降,你看这些资源都被高校堵得死死的 216所高校上榜!2024中国大学分领域评级,发布! 别让高中学习拖后腿!老师讲不全,靠这几招养成自主学习好习惯 一起来看看杭州初中的等级图!你的孩子的初中上榜了吗? “滋润小脸蛋”公益行动温暖济南穆家小学278名学生 如何让孩子爱上幼儿园?这两句话让他们每天都有成就感! 幼儿园的这些潜规则,新手爸妈要知道,都是过来人的血泪教训! 2024年湖北荆州市公安县第一中学选调紧缺学科教师7人公告 2024年湖北黄石市教育局直属高中学校招聘教师6人公告 江苏宿迁市洋河新区残疾人专职委员招聘2人公告 2025年江苏南通大学附属医院博士专项招聘26人公告 2025年河南郑州警察学院招聘102人公告 2025年吉林长春市招聘教师253人公告 2025年广东广州市越秀区农林街招聘辅助人员公告 2025年内蒙古巴彦淖尔乌拉特后旗卫生健康委员会所属公办医疗机构招聘60人公告 2024年广东佛山市顺德区面向2025届毕业生赴高校设点招聘教师(第二批)公告