2024-08-08 04:32来源:本站

在上周令人震惊的OpenAI权力之争之后,最后有一件事被披露出来,仿佛是这场混乱的尾声:路透社(Reuters)的一篇报道披露了这家初创公司据称取得的惊人突破。据称,这一突破是通过一个鲜为人知的名为“Q星”或“Q*”的项目实现的。
根据该报告,在这家有影响力的人工智能公司,引发内部冲突的原因之一可能是与q相关的“发现”。据称,在奥特曼被解雇之前,OpenAI的几名员工写信给公司董事会,称他们发现了一项“强大的人工智能发现,可能会威胁到人类”。路透社援引匿名消息人士的话称,这封信是“董事会导致奥特曼被解雇的诸多不满之一”。
坦率地说,这个故事听起来相当疯狂。这个奇怪的新程序是什么?为什么它会引起OpenAI的混乱?路透社声称,Q*程序已经成功地让一个人工智能代理做“小学水平的数学”,消息人士称,如果这是真的,这是一个惊人的技术突破,可能会在创造人工通用智能(AGI)方面取得更大的成功。来自The Information的另一篇报道在很大程度上重申了路透社文章中的许多观点。
不过,关于这个所谓的Q计划的细节并没有被公司分享,只留下了匿名来源的报道和网上关于该计划真实性质的猖獗猜测。
一些人猜测这个程序可能(因为它的名字)与Q-learning(一种机器学习)有关。那么,什么是Q-learning,它如何应用于OpenAI的秘密项目呢?
一般来说,有几种不同的方法可以教人工智能程序做一些事情。其中一种方法被称为“监督学习”,其工作原理是向人工智能代理提供大量“标记”数据,然后用于训练程序自行执行功能(通常该功能是更多的数据分类)。总的来说,像OpenAI的内容生成机器人ChatGPT这样的程序都是使用某种形式的监督学习创建的。
与此同时,无监督学习是一种机器学习形式,其中人工智能算法被允许筛选大量未标记的数据,以找到要分类的模式。这种人工智能可以用于许多不同的目的,比如创建像Netflix和Spotify这样的公司用来根据用户过去的消费选择向他们推荐新内容的推荐系统。
最后,还有强化学习(RL),这是机器学习的一个类别,它激励人工智能程序在特定环境中实现目标。q学习是强化学习的一个子类。在强化学习中,研究人员把人工智能代理看作是他们试图训练的狗。如果程序采取了某些行动来影响某些结果,它们就会得到“奖励”,如果采取了其他行动,它们就会受到惩罚。通过这种方式,程序被有效地“训练”为在给定情况下寻求最优化的结果。在Q-learning中,智能体显然是通过试错来找到最佳的方法来实现它设定的目标。
这一切与OpenAI所谓的“数学”突破有什么关系?人们可以推测,这个程序能够(据称)进行简单的数学运算,可能是通过某种形式的与q相关的强化学习获得这种能力的。尽管如此,许多专家还是对人工智能程序是否真的能解决数学问题持怀疑态度。其他人似乎认为,即使人工智能能够实现这些目标,也不一定能转化为更广泛的人工智能突破。《麻省理工科技评论》采访了:
简而言之:我们真的不太了解Q,但是,如果相信专家的话,围绕它的炒作可能只是炒作而已。

尽管他已经回到了OpenAI,但我们仍然不知道Sam Altman上周到底发生了什么。在周三接受The Verge网站的采访时,奥特曼几乎没有透露是什么导致了上周在他的公司发生了戏剧性的权力斗争。尽管该媒体记者不断催促,奥特曼还是举手投降,表示在可预见的未来他不会再谈论这件事。“我完全理解为什么人们现在想要一个答案。但我也认为,期待它是完全不合理的,”这位反弹的首席执行官表示。相反,the Verge从这位OpenAI高管那里得到的最多信息是,该公司正在对所发生的事情进行“独立审查”——他说,他不想“干涉”这一过程。我们自己对上周这场闹剧的报道是这样解读的:董事会的道德规范与奥特曼顽强推动OpenAI自动化技术商业化之间存在冲突。然而,这种叙述只是一种叙述。我们不知道导致Sam被驱逐的具体细节,尽管我们很想知道。
以色列正在使用人工智能识别巴勒斯坦激进分子嫌疑人. 如果你担心政府不会在武器上浪费时间将人工智能用于现代战争,听听这个。《卫报》的一篇报道显示,以色列目前正在使用一种名为Habsora或“福音”的人工智能程序来识别巴勒斯坦境内明显的武装分子目标。以色列国防军网站上发布的一份声明显然是这样写的,该项目用于“快速产生目标”,消息人士告诉《卫报》,该项目帮助以色列国防军建立了一个数据库大约有3万到4万名武装分子嫌疑人。该媒体报道:“像福音这样的系统……(消息来源称)在建立授权暗杀的个人名单方面发挥了关键作用。”
本周,埃隆·马斯克(Elon Musk)就人工智能版权问题发表了看法,和往常一样,他听起来很傻. 多起诉讼认为,科技公司本质上是在窃取和重新包装受版权保护的材料,从而使它们能够继续使用免费将其他人的作品(通常是作者和视觉艺术家)放到网上。埃隆·马斯克(Elon Musk)介入了这家公司ntentious有限公司在本周《Dealbook》的采访中自然,他分享的想法听起来不太容易理解。他说,我引用他的话:“我不知道,但我想说的是,等这些诉讼结果出来的时候,我们就会有数字上帝了。所以,你可以在这一点上问数字上帝。嗯。这些诉讼暂时不会有结果这是相关的名字。”美丽,埃伦。你只要留心那个数字神就行了。与此同时,在现实世界中,法律和监管专家将不得不采取行动考虑到这项技术带来的破坏不断地给那些远不如硅谷高管幸运的人造成伤害。
巡航机器人出租车公司继续奋斗. 通用汽车(General Motors)旗下的机器人出租车公司克鲁斯(Cruise)一直在努力真是艰难的一年。该公司首席执行官在经历了一连串的辞职风波后,于上周辞职该公司在旧金山发生的各种事故引发了争议。本周,有报道称通用汽车将缩减对该公司的投资。据报道,通用汽车首席执行官玛丽·巴拉在一家投资者公司表示:“我们预计,当克鲁斯恢复运营时,其扩张速度将更加谨慎,这将导致2024年的支出大幅低于2023年。nference星期三。