首页 > 科技知识 > 科技知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

科技知识更多>>

2025年底,马自达CX-5跨界SUV全球累计生产与销售量均达到500万辆 马斯克刚脱口而出,特斯拉便紧急提交“Cybercar”与“Cybervehicle”商标申请 铭纳阳新能源汽车驱动电机及其核心零部件研发、生产项目正式奠基 传奇掌舵人今日退休,Xbox正式死去 啊?今年春节,爸妈反过来教我用 AI? 微雪电子7英寸圆形触摸面板,功能超强大 Urus SE Performante路测图曝光:兰博基尼最强SUV 获10亿美元种子轮融资!前DeepMind首席科学家离职创业:绕过大模型探索超级智能 特斯拉将在美加对部分辅助驾驶功能收取订阅费 哪吒汽车印尼业务调整:本土销量数据全披露 Waymo在迈阿密启动付费无人驾驶出租车服务,成为美国第六个运营城市 1月26日,鸿蒙智行官方宣布,旗下的尚界H5车型累计交付已突破3万辆 保时捷最硬核 911:尾翼与引擎盖尽展锋芒 吉利目标 2030 年新能源汽车销量占比达 75% 现代汽车集团2025年在美市场份额达11.3%,创历史新高 “极狐vs深蓝”AI通稿泛滥,双方作出回应 长城汽车发布全球首个原生AI全动力汽车平台“归元” OpenAI致信投资者 称马斯克将发表“离谱言论” 华为车BU CEO靳玉志:预计今年搭载华为ADS车型数超过80款 罗永浩回应“西贝贾国龙今晚10点对线”:突然有点心酸 奥特曼要给你的脑子装上GPT 曾经自研L3,高举大旗的奔驰,现如今一手Momenta,一手英伟达,要么L2,要么L4… 庭审在即:OpenAI提醒投资人马斯克或提出“夸张指控” Meta放弃“元宇宙办公”愿景,2月起不再面向企业销售头显及服务 火影忍者手游:新S忍的武器是方天画戟,这是来了一个吕布? 一块3000的签绘板,被炒到5万!同人作者终于还是被黄牛上了一课 山东青年海外考的公务员,“含金量”比国内低多了 江浙沪富家女与企二代联姻如此甜,比撒糖戏码更有看头的是赵今麦的穿搭! 中国建筑材料流通协会秦占学解读行业机遇:反内卷、促出海、寻“光”前行 中央定调明年继续“国补”、前11月家具出口总额下降5.1%、家居A股控制权变更潮起