人妻洗澡被强公日日澡电影_漫画在线日文中字乱码_日本无码AAA区A片视频_一线二线三线_日韩亚洲欧美中文高清一区二区三区_天天影视香色欲综合网_国产免费在线av观看久久精品无码,亚洲高清资源在线观看

會殺人的機器人不可怕，有偏見的AI才“要命”

谷歌的 AI 主管 John Giannandrea 并不擔心超級智能的殺人機器人，反而對可能潛伏在機器學習算法內(nèi)部的危機憂心忡忡。這些機器學習算法每分鐘都要做出上百萬個決策。

“真正的安全問題，如果非要這么叫的話，是如果我們向這些系統(tǒng)提供了有偏見的數(shù)據(jù)，這些系統(tǒng)也會變得帶有偏見�！� Giannandrea 在谷歌最近一次有關人類和 AI 系統(tǒng)關系的會議上如此說到。

隨著科技不斷向醫(yī)藥和法律等關鍵領域延伸，以及更多沒有深厚技術(shù)背景的人可以應用最新科技，機器學習的偏見問題會變得更加顯著。一些專家警告稱，算法的偏見問題已經(jīng)在很多行業(yè)十分普遍，卻幾乎沒人試圖進行識別或者糾正。

“公開我們在用的訓練數(shù)據(jù)，公開我們正在尋找數(shù)據(jù)背后的偏見信息，這是很重要的，否則我們就是在建造有偏見的系統(tǒng)，” Giannandrea 補充到，“如果有人試圖賣給你一個輔助醫(yī)療決策的黑盒系統(tǒng)，而你卻不知道它如何運作或者用了什么數(shù)據(jù)進行訓練，那我肯定不會信任這個黑盒的�！�

黑盒機器學習模型已經(jīng)在決定一些人的命運上發(fā)揮著重要作用了。由 Northpointe 公司制作的稱為 COMPAS 的系統(tǒng)可以預測被告人再次犯罪的相關性，已經(jīng)被一些法官用來決定是否批準犯人保釋了。COMPAS 的工作原理尚未公開，不過 ProPublica 的調(diào)查發(fā)現(xiàn)了其模型會不利于少數(shù)族群的證據(jù)。

然而，事情并不總是像公開數(shù)據(jù)細節(jié)或者所有算法那樣簡單。大多數(shù)正在崛起的機器學習技術(shù)的工作原理都是特別復雜和不透明的，所以他們拒絕接受檢測。為了說明這個問題，研究人員正在探索新的方式，讓這些系統(tǒng)向工程師和終端用戶提供其工作原理的某些近似結(jié)果。

Giannandrea 有充分的理由強調(diào)偏見潛入 AI 內(nèi)部的可能性。世界上的幾個大公司都在向各種類型的企業(yè)兜售其云計算平臺的 AI 能力，谷歌正是其中一個。這些基于云的機器學習系統(tǒng)設計得遠比其底層算法要簡單易用。這有助于科技的廣泛應用，卻也可能導致偏見的無聲潛入。提供教程和工具，幫助缺少經(jīng)驗的數(shù)據(jù)科學家和工程師識別和去除其訓練數(shù)據(jù)中的偏見信息，也是十分重要的。

受邀參加此次谷歌組織的峰會的數(shù)位演講者也都重點談到了偏見的話題。谷歌公司的研究員 Maya Gupta 是內(nèi)部代號“GlassBox”小組的成員，她介紹了自己在建造更加透明的算法方面的成果。 Karrie Karahalios 是伊利諾伊大學的計算機科學教授，他展示了即使是在最稀松平常的算法中要定位偏見信息都是何其困難。Karahalios 展示了用戶通常是不理解 Facebook 如何在他們的信息流中過濾帖子的。雖然這看起來無傷大雅，卻很好的說明了算法查詢是多么困難。

Facebook 的信息流算法肯定可以影響公眾對于社會動態(tài)甚至重大新聞事件的看法。其他算法可能已經(jīng)在很微妙地扭曲了病人應當接受的醫(yī)學護理，或者人們在刑事司法系統(tǒng)中會被如何處理。這顯然比殺人機器人嚴重的多，至少目前如此。

近年來人們對于 AI 的威脅提出了很多荒誕不經(jīng)的警告，Giannandrea 發(fā)出的肯定算是理性的呼聲。特別是埃隆·馬斯克最近警告人們 AI 是比北朝鮮更嚴重的威脅并可能引發(fā)第三次世界大戰(zhàn)，也是搶占了不少新聞頭條。

“我反對的是這一假設，即我們可能躍遷到某種超級智能系統(tǒng)，從而導致人類過時，” Giannandrea 表示，“我理解人們?yōu)楹侮P注此事，但是我認為此事過為遙遠。在我看來，這種情況很快就會發(fā)生的觀點是沒有任何技術(shù)根基的�！�