計世網

Google多名員工離職 但人工智能的倫理還關乎更多
來源:OFweek人工智能網
2018-05-18
現代科技確實給人類社會帶來了種種倫理拷問:科技是否應該為強權政治服務?

 

瘋子和天才的區別在于,明明表達的是同一個問題,卡辛斯基要用炸藥引起人們的注意,赫拉利卻用它來寫書。

     
       本文引用地址:http://www.eepw.com.cn/article/201805/380087.htm

為什么谷歌人在科技是否服務軍事問題上這樣敏感?

在社會公共領域,沒有什么比政治更能牽動人的敏感神經了。軍隊作為保證政治順利運行的工具,成為政權賴以生存的暴力基礎??萍寂c軍事,本來沒有明確的界限,人們發明火藥,用在敵我廝殺的戰場上,指南針也曾用于戰事行軍尋找方向位置。

上萬年來,無論東西,人類所發起的戰爭難以計數,但很少有人懷疑把箭頭磨尖從而更有效的刺殺敵人是否太過殘忍,以及將更具殺傷力的炸藥用于戰場是否有悖人倫。

一直以來,人類歷史都在戰爭的非合作博弈,以及和平的合作博弈中向前演進,科技在軍事中的作用也一直在人類的可控范圍之內。但在進入現代之后,核武器的發明使得科學已經不僅僅是軍事范疇,而成為了人倫社會領域都不可忽視的重要力量。

科技在對于人類社會的控制權上,已經有質變了嗎?霍金認為人工智能會超越人類智能,進而消滅人類,但更多的科學家則認為科技無法產生意識的本質決定人類被科技毀滅是無稽之談。

那么,在谷歌與國防部是否合作這件事情上,人們反對的聲音究竟是憚于國防科技過于強大,會有以霸權殘害無辜的潛在危險?還是在于科技本身可能對人類帶來的毀滅力量,與兵器結合后會更加恐怖到難以收拾?

自從這件事情開始爆出,谷歌從最初3100多名員工“聯名上書”,到目前有12個人提出離職,如果說簽名者只是本能認為科技會助紂為虐,那么這12個絕不妥協的人,或許在思考科技與軍事結合之后的毀滅性后果。

瘋子的《工業社會及其未來》和天才的《未來簡史》

事實上,更有的極端的“天才”或者稱為“瘋子”為了堅持“科技威脅論”甚至為非作歹。卡辛斯基曾是加州伯克利分校最年輕的助教,然而,似錦前程卻因為價值觀的重塑而逆轉。原本熱愛數學,崇尚科學的他莫名陷入極端反科學的對立面。辭去教職之后,他進入深山,長期與自然親近,人類疏遠,完全自我的生活讓他在理性上更加懷疑科技,而情感上與社會更加疏遠。

      如果看過尤瓦爾·赫拉利的《未來簡史》,你一定不覺得上面的文字陌生。赫拉利所描述的人工智能可以無所不能的時代,就是故事版的卡辛斯基對未來的斷言?;蛘哒f,赫拉利也受到了卡辛斯基觀念的影響。


       本文引用地址:http://www.eepw.com.cn/article/201805/380087.htm

 

blob.png

天才也是站在前人肩膀上

對人工智能的思考,社會、人倫、哲學一個都不能少

現代科技確實給人類社會帶來了種種倫理拷問:科技是否應該為強權政治服務?科技是否應該替代基礎工作,而讓無能從事更多腦力者淪為拿著最低生活保障卻無所事事的人,科技為什么可以剝奪他們勞動的權利?如果人性只是趨利避害的,哲學思考往往滯后于人性對于利益的逢迎,在科技讓人類獲得幾何級數的利得過程中,哲學能夠真正起到規范作用嗎……

這些拷問需要人類思考的,不僅僅是智能科技是否應該應用于政治軍事,還有智能科技是否應該被用來改變社會形態,智能科技是否應該納入到人類的存在哲學。

前段時間,斯皮爾伯格的《頭號玩家》名噪一時,讓VR和游戲控們過足了癮。然而,電影所表達的內涵卻需要仔細琢磨。

 

blob.png

應該如何看待虛擬科技?

電影中,在一個技術高度發達的現代社會,現實世界卻處于混亂和崩潰的邊緣,社會精英忙著制造各種挾制大眾的科技,絕大部分民眾食不果腹、生活艱苦,而少數與科技巨頭有染的人也往往成為它們的“游戲奴工”,自帶光環的男主角因為逆向思維打破了巨頭精英在虛擬世界對大眾的壟斷,在他執掌綠洲之后,成為了具有民主氣質的領袖。

斯皮爾伯格不愧為大導演,能夠抓住智能科技帶給人們精神享受,沉迷其中的心理,把它塑造成在虛擬世界民主英雄拯救霸權統治的英雄故事,收獲極高贊譽。但在現實中,沒有人有虛擬世界中的魔力,更沒有主角光環。影片的最后一句被影迷解讀為,斯導還是高明,點睛之筆“人們應該還是回到現實中”,但事實上,都嗨過頭了,這句不就像每天都在瘋玩的學生在睡前說:“明天我一定好好學習。”

在反烏托邦名著《1984》和《美麗新世界》中,作者筆下總是將科技和政治極權相結合,在中國這樣的作品很少,大眾文學所關注的領域,也側面代表了民眾的觀念動向。其實,李彥宏說“中國人對數據、對隱私不敏感,愿意用隱私交換科技的便利”并沒有惡意,只是他一方面沒有設想像他一樣的精英會有預謀的作奸犯科,另一方面他也沒有預料民眾會對科技的倫理問題這樣敏感。但不知他所設想的邦之禮儀,是否真正有抵擋卡辛斯基和赫拉利所描述“未來”的能力。

最終他因違背人倫和法律底線寄炸藥造成科研院所和科技企業重大傷亡而被判終身監禁,雖然這是一個天才最終墮落為瘋子的故事,但他要求FBI刊登在《華盛頓郵報》和《紐約時報》上的論文,卻并非瘋癲之作。

 

blob.png

《時代周刊》把卡辛斯基印在封面上,叫他“天才瘋子”

在論文的開始,他說到:“人類太輕易地讓自己陷入這樣一種對機器強烈依賴的境地,以至于到了最后,他們沒有別的選擇,只能完全聽從機器的決定。”

在這篇名為《工業社會及其未來》的論文中,卡辛斯基斷言,工業化時代的人類,如果不是直接被高智能化的機器控制,就是被機器背后的少數精英控制。如果精英們是殘酷的,他們就會直接消滅大部分人類;如果他們仁慈,他們就會利用宣傳手段或者生物學技術,降低人口出生率,直到大部分人類滅絕,無論使用哪一種方法,地球都會歸于精英之手。

責任編輯:吳黛