AI教父" Geoffrey Hinton因擔(dān)憂(yōu)AI技術(shù)風(fēng)險(xiǎn)辭去谷歌職位

2023年5月05日 09:54

Geoffrey Hinton 從谷歌辭職

Geoffrey Hinton，一位著名的人工智能研究者和“人工智能之父”之一，已從谷歌辭職，并對(duì)人工智能技術(shù)的持續(xù)發(fā)展?jié)撛诘娘L(fēng)險(xiǎn)發(fā)出警告。Hinton在給紐約時(shí)報(bào)的聲明中證實(shí)了他從谷歌的辭職。目前尚不清楚他與谷歌首席執(zhí)行官Sundar Pichai的具體討論細(xì)節(jié)。

Hinton因其在神經(jīng)網(wǎng)絡(luò)方面的開(kāi)創(chuàng)性工作獲得了“計(jì)算機(jī)界的諾貝爾獎(jiǎng)”——圖靈獎(jiǎng)。作為“三位人工智能教父”之一，Hinton與其他兩位合作伙伴共同獲得了2018年圖靈獎(jiǎng)，以表彰他們對(duì)當(dāng)前人工智能繁榮所做的基礎(chǔ)性貢獻(xiàn)。

然而，現(xiàn)在的Hinton對(duì)自己投入一生的研究感到遺憾。根據(jù)紐約時(shí)報(bào)的采訪，Hinton現(xiàn)在終于可以討論人工智能技術(shù)背后的風(fēng)險(xiǎn)了。在谷歌工作十多年的Hinton表示，“我總是用這樣的借口安慰自己：即使我不做，其他人也會(huì)這樣做。但目前我真的不知道如何防止壞人利用人工智能來(lái)作惡。”

虛假信息的傳播只是Hinton目前想強(qiáng)調(diào)的風(fēng)險(xiǎn)之一。從長(zhǎng)遠(yuǎn)來(lái)看，他擔(dān)心人工智能會(huì)徹底消除所有需要大量記憶的工作，并隨著它逐漸編寫(xiě)和運(yùn)行構(gòu)成自身代碼，人工智能最終可能取代人類(lèi)。

在接受BBC采訪時(shí)，Hinton甚至提到人工智能聊天機(jī)器人已經(jīng)構(gòu)成了“相當(dāng)可怕”的威脅。他告訴BBC：“據(jù)我所知，目前的信息技術(shù)還不如我們聰明，但我相信它們很快就會(huì)超越人類(lèi)。”

此外，Hinton博士承認(rèn)他離開(kāi)谷歌也有年齡方面的考慮，他告訴BBC：“我已經(jīng)75歲了，是時(shí)候退休了。”

總的來(lái)說(shuō)，Hinton的辭職和對(duì)人工智能技術(shù)潛在風(fēng)險(xiǎn)的警告引發(fā)了廣泛關(guān)注，因?yàn)樗侨斯ぶ悄茴I(lǐng)域的重要人物，并且他的看法和觀點(diǎn)對(duì)該領(lǐng)域的未來(lái)具有重要影響。

Geoffrey Hinton：GPT-4 等模型

已擁有超越人類(lèi)知識(shí)儲(chǔ)備的能力

Hinton 博士是人工智能領(lǐng)域的開(kāi)創(chuàng)者，他的研究為當(dāng)今的 AI 系統(tǒng)，如 ChatGPT，鋪平了發(fā)展道路。

神經(jīng)網(wǎng)絡(luò)是 AI 領(lǐng)域中一種與人腦相似的處理和學(xué)習(xí)信息的系統(tǒng)。正是神經(jīng)網(wǎng)絡(luò)讓 AI 能像人類(lèi)一樣從經(jīng)驗(yàn)中學(xué)習(xí)，這是深度學(xué)習(xí)的概念。

Hinton 博士和他的兩名學(xué)生創(chuàng)辦的公司被谷歌收購(gòu)，Hinton 博士也因此加入了谷歌。他們開(kāi)發(fā)了一套神經(jīng)網(wǎng)絡(luò)，在分析數(shù)千張照片后，它成功學(xué)會(huì)了識(shí)別狗、貓、花等物體。這項(xiàng)工作最終促進(jìn)了 ChatGPT 和谷歌 Bard 的誕生。

Hinton 博士說(shuō)，聊天機(jī)器人很快就會(huì)超過(guò)人類(lèi)能容納的信息水平。他表示，現(xiàn)在的 GPT-4 等模型已經(jīng)擁有遠(yuǎn)超人類(lèi)的知識(shí)儲(chǔ)備，雖然在推理方面還不夠好，但 AI 已經(jīng)具有簡(jiǎn)單的推理能力，并預(yù)計(jì)情況將很快改善。

Hinton 博士在一篇《紐約時(shí)報(bào)》文章中提到了那些想用 AI 做壞事的人，他在采訪中進(jìn)一步解釋說(shuō)，這是最糟糕的情況。

對(duì)于 Hinton 博士的看法，專(zhuān)家們給予了不同的評(píng)價(jià)。一些人認(rèn)為，AI 的快速發(fā)展構(gòu)成了一種巨大的威脅，需要立即采取行動(dòng)。而另一些人則認(rèn)為，AI 對(duì)人類(lèi)有著重要的貢獻(xiàn)，可以用來(lái)解決一些嚴(yán)重的問(wèn)題。

無(wú)論如何，人們都同意 AI 需要得到妥善的監(jiān)管，以防出現(xiàn)不良后果。AI 的發(fā)展速度非常快，因此必須在它安全與控制方面緊急投入更多資源。

AI 是一個(gè)令人興奮和激勵(lì)的領(lǐng)域，但同時(shí)也需要小心防范。如果我們能夠在保護(hù)人類(lèi)利益的同時(shí)，實(shí)現(xiàn) AI 的潛在潛力，那么未來(lái)的前景就非常光明。

Geoffrey Hinton 反駁 AI 開(kāi)發(fā)暫停呼聲

許多專(zhuān)家對(duì) AI 的發(fā)展速度和方向表示擔(dān)憂(yōu)，其中包括 2018 年圖靈獎(jiǎng)獲得者 Yoshua Bengio。3 月份，AI 領(lǐng)域數(shù)十人共同簽名，呼吁暫停比當(dāng)前版本更先進(jìn)的 AI 模型開(kāi)發(fā)，以讓出時(shí)間實(shí)施更嚴(yán)密的安全控制。

但 Hinton 博士告訴 BBC，在短期內(nèi)，他認(rèn)為 AI 帶來(lái)的好處仍然多于風(fēng)險(xiǎn)，因此不必暫停 AI 模型的開(kāi)發(fā)。他指出，目前 AI 已引發(fā)國(guó)際軍備競(jìng)賽，因此暫停開(kāi)發(fā)將面臨困難。

Hinton 博士強(qiáng)調(diào)，他只是科學(xué)專(zhuān)家，不是政策專(zhuān)家，政府有責(zé)任確保 AI 的開(kāi)發(fā)考慮到如何防止濫用。

“谷歌對(duì) AI 的負(fù)責(zé)任態(tài)度”

Hinton 博士在 Twitter 上對(duì)他在紐約時(shí)報(bào)的采訪進(jìn)行了澄清，他表示離開(kāi)谷歌并不是因?yàn)閷?duì)公司不滿(mǎn)，而是為了討論 AI 的風(fēng)險(xiǎn)。Hinton 博士強(qiáng)調(diào)，他不想批評(píng)谷歌，這家科技巨頭已經(jīng)“非常負(fù)責(zé)任”。

谷歌首席科學(xué)家 Jeff Dean 通過(guò)一份聲明表示，谷歌仍將繼續(xù)采取負(fù)責(zé)任的態(tài)度對(duì)待 AI，不斷學(xué)習(xí)和研究新出現(xiàn)的風(fēng)險(xiǎn)，同時(shí)大膽創(chuàng)新。

盡管目前 ChatGPT 主要是一個(gè)文本聊天機(jī)器人，但它背后蘊(yùn)含的潛力是巨大的。AI 技術(shù)正在以驚人的速度發(fā)展，令其創(chuàng)造者們也感到驚訝。谷歌 CEO Sundar Pichai 甚至承認(rèn)，他也無(wú)法完全理解他們的 AI 聊天機(jī)器人 Bard 的全部潛力。

因此，我們正處在一段充滿(mǎn)未知的旅程中，但重要的是要始終保持負(fù)責(zé)任的態(tài)度。

人工智能（AI）的快速發(fā)展令人驚訝。例如，通用人工智能（AGI）已經(jīng)可以通過(guò)訓(xùn)練完成各類(lèi)任務(wù)。盡管目前的 ChatGPT 主要是通過(guò)查詢(xún)向用戶(hù)提供文本答案，但它同時(shí)也隱藏著無(wú)窮的可能性。

2012 年，Hinton 博士創(chuàng)建了開(kāi)創(chuàng)性的圖像分析神經(jīng)網(wǎng)絡(luò)，從那以后，AI 世界已經(jīng)發(fā)生了巨大的變化。就連谷歌的 CEO Sundar Pichai 也表示，他也無(wú)法完全理解公司的 AI 聊天機(jī)器人 Bard 所能做到的事情。這說(shuō)明，我們正在一個(gè)快速發(fā)展的領(lǐng)域前進(jìn)，它可能有一天能夠獨(dú)立建造軌道。