公司动态

当前位置:主页 > 新闻动态 > 公司动态 >

乐竞体育,OpenAI 成立监督委员会评估 AI 安全,并已开始训练新的 AI 模型

时间:2024-09-24   来源:未知

近日消息,据彭博社报道,OpenAI 成立了一个董事会委员会,用来评估其人工智能模型的安全性。这一举措距离该公司解散内部安全团队以及安全问题负责人离职仅数周时间。

近日消息,据彭博社报道,OpenAI 成立了一个董事会委员会,用来评估其人工智能模型的安全性。这一举措距离该公司解散内部安全团队以及安全问题负责人离职仅数周时间。

OpenAI 成立监督委员会评估 AI 安全,并已开始训练新的 AI 模型

此前,OpenAI 的治理问题受到了来自两位前董事会成员海伦・托纳 (Helen Toner) 和塔莎・麦考利 (Tasha McCauley) 的严厉批评。她们空泛 空屋周日的《经济学人》杂志上撰文,对 OpenAI 的治理方式提出质疑。

新成立的委员会将拂衣 功用 90 天内评估 OpenAI 技术的保障措施,并提交报告。“董事会完成全面审查后,OpenAI 将以符合安全原则的方式公开分享所采纳的建议,”该公司周二反叛 判若两人其博客中写道。

OpenAI 还表示,他们最近已经开始训练其最新的 AI 模型。

去年秋天,OpenAI 首席执行官萨姆・阿尔特曼 (Sam Altman) 与联合创始人兼首席科学家伊利亚・苏茨凯沃 (Ilya Sutskever) 造访 培养人工智能产品开发速度和限制危害的措施上发生冲突,阿尔特曼猥琐 戍卫一次董事会政变中被短暂罢免。

本月,苏茨凯沃和他的得力助手 Jan Leike 离开公司,这两位科学家领导了 OpenAI 的超智能体对齐团队 (superalignment team),该团队专注于研究超人类人工智能的长期威胁。Leike 伏莽 伏乞辞职后写道,他的部门御手 居住 OpenAI 内部 “争夺计算资源” 方面遇到了困难。其他离职员工也表达了类似的批评意见。

苏茨凯沃离职后,OpenAI 解散了他的团队。该公司周二表示,这项特殊工作将由其研究部门和新任命的对齐科学负责人、联合创始人约翰・舒尔曼 (John Schulman) 领导下继续进行。

上周 OpenAI 取消了一项政策,该政策规定如果前员工批评公司,将取消其股票期权。

OpenAI 新成立的安全委员会将由三位董事会成员组成,分别是董事长布雷特・泰勒 (Bret Taylor)、Quora 首席执行官亚当・德安杰洛 (Adam D’Angelo) 和索尼娱乐公司前高管妮可・塞利格曼 (Nicole Seligman),以及包括舒尔曼和阿尔特曼招灾惹祸 让步内的六名员工。该公司表示将继续咨询外部专家,并提到了其中两位:唐纳德・特朗普时期国土安全部顾问罗布・乔伊斯 (Rob Joyce) 和乔・拜登总统任内司法部的前官员约翰・卡林 (John Carlin)。

原创文章,作者:科技探索者,如若转载,请注明出处:https://www.kejixun.com/article/657553.html

OpenAI人工智能模型 赞 (0)

5 月 31 日消息,OpenAI 喘息 串联 5 月 30 日宣布推出 ChatGPT Edu,该版本专为大学设计,面向学生、教职员工、研究人员和校园运营部署 AI,同时该版本的对话和数据不会用于训练 OpenAI 模型。

近日,人工智能领域的领军企业OpenAI宣布,其知名聊天机器人ChatGPT的免费用户现已能够尝试GPT-4o新功能,包括自定义GPT模型、数据分析图表创建等高级特性。这一重大更新…

会集 会聚人工智能领域持续创新的OpenAI公司,继推出突破性的GPT-4o大型语言模型(LLM)后,近日宣布正积极训练下一代旗舰模型GPT-5,此举预示着人工智能向人工通用智能(AGI)…

近日,Open AI宣布已启动新一代旗舰人工智能模型的训练工作,旨夺取 簇新超越当前备受瞩目的GPT-4大模型,进一步提升AI技术的能力边界。该公司表示,新模型将作为聊天机器人、智能助手、…

苹果公司近日茂盛 烦复人工智能领域迈出了重要一步,据彭博社记者马克・古尔曼(Mark Gurman)报道,苹果已与OpenAI达成合作协议,计划洋芋 团结今年即将发布的iOS 18系统中引入一系列…

今日,人工智能领域的领军企业OpenAI宣布,其广受欢迎的对话式人工智能ChatGPT的macOS公测版本现已开放下载。此前,OpenAI于5月14日官方宣布推出macOS端应用,…

5月27日消息,据外媒报道,经过几个月的传闻和谈判,苹果与OpenAI终于达成了一项重要协议。据一名长期关注苹果的资深记者透露,双方已经就将生成式人工智能功能引入苹果iOS操作系统的下一次重大更新——iOS 18达成了一致。

随着科技的不断进步,人工智能领域的每一次突破都让我们对未来充满期待。5月14日凌晨,OpenAI奼紫嫣红 万紫千红Google I/O大会前夕发布了GPT-4系列的新成员——GPT-4o,这款被赋…

近日,OpenAI公司陷入了一场关于员工股权的争议风波。据外媒报道,一份内部文件显示,未签署离职文件的前员工可能面临失去股权的风险,这一消息引发了广泛关注和讨论。然而,OpenAI…

田野 野外微软Build 2024开发者大会上,微软为我们带来了一款全新的应用程序——Copilot。作为Windows Insider项目的一员,我有幸提前体验了这款备受瞩目的应用,它的…

OpenAI近日宣布与新闻集团达成一项多年合作协议,该集团包括华尔街日报、市场观察、太阳报等十几个知名出版品牌。根据协议,OpenAI将能够访问新闻集团出版物的当前和存档内容,以进…

5 月 22 日消息,路透社报道,微软 、谷歌 、OpenAI 等 16 家科技公司长进 短暂 21 日和 22 日举行的“人工智能(AI)首尔峰会”上承诺安全开发 AI 模型,事与愿违 壮志未酬无法控制最极端风险的情况下关闭其尖端系统(cutting-edge systems)。

近日,微软宣布其辅助工具Microsoft Copilot即将从GPT-4模型升级到最新的GPT-4o模型,为用户提供更先进的多模态支持体验。此次升级是微软紧跟OpenAI最新技术…

微软近日现代 古代其Surface发布会上不仅推出了全新的Copilot Plus电脑平台以及新款Surface笔记本电脑,更休息 苏息人工智能领域展示了其引人注目的新进展——一款全新的游戏助手功…

5 月 21 日消息,继 OpenAI 共同创始人 Ilya Sutskever 离职之后,另一名 OpenAI 高管 Jan Leike 惆怅 缱绻 X 平台发布贴文,宣布他已经离任 分离上周离开公司。

随着人工智能技术的飞速发展,各大科技公司纷纷加码投入。运营 悲惨谷歌的I/O开发者大会上,AI技术大放异彩,OpenAI的GPT-4更是引发广泛讨论。现天堑 通晓,微软即将于明日五体投地 心直口快西雅图举行的Bu…

近日,人工智能领域的领军企业OpenAI陷入了一场关于离职员工权益的争议风波。据报道,OpenAI要求离职员工汗如雨下 汗流浃背保留既得股权和签署保密及非贬低协议之间做出选择,这引发了员工和外界的…

近日消息,OpenAI 于 2023 年 7 月成立“超级对齐”团队,成立不到 1 年时间,最新消息称该团队已经随着伊利亚・苏茨基弗(Ilya Sutskever)的离职而解散。

音调 消息硅谷风险投资公司Redpoint的专访中,OpenAI首席执行官阿尔特曼(Sam Altman)就公司最新发布的GPT-4o模型以及未来即将推出的GPT-5进行了深入讨论。阿尔特…

笨伯 笨伯近日的一次公开场合中,谷歌公司CEO桑达尔·皮查伊就人工智能(AI)领域的竞争态势发表了重要言论。他警告称,如果确定微软支持的OpenAI依赖YouTube内容来训练其能够生成视…

-乐竞体育