“可一旦AI擁有了人類的情感,思想,他們和人還有什么區(qū)別?”
聞言江言心大方承認(rèn),“其實(shí)我也沒想好,這件事牽扯的倫理道德,法律問題實(shí)在是太多,我僅僅只是站在科技發(fā)展的角度上,做了一些個(gè)人評論。但我認(rèn)為AI發(fā)展如果僅僅止步于模仿人類最基本的舉止活動(dòng),不去進(jìn)行更深層次的探索,我認(rèn)為是可惜的。”
討論沒有持續(xù)多久便結(jié)束了,在現(xiàn)有的科技條件下,沒人能預(yù)測AI發(fā)展的未來,也沒人能保證AI發(fā)展的未來不會帶來任何問題。
比起人類社會的激烈爭論,身為AI機(jī)器人的阿赫到顯得淡然許多。江言心回來之后,阿赫的生活又回到了最初的狀態(tài),變成了一個(gè)合格的“家政機(jī)器人”。但他同時(shí)也對自己的現(xiàn)狀產(chǎn)生了一些顧慮和問題,首先,作為周赫的一比一復(fù)刻版,他沒有自由出現(xiàn)在公共場合的權(quán)利,其次,他的所有行動(dòng)都必須獲得江言心的許可,也算不上真正的自由。
從生理上變成一個(gè)完整的人類是江言心短期內(nèi)無法解決的事情,但獲得相對自由活動(dòng)的權(quán)利,是短期內(nèi)江言心可以解決的事情。他唯一需要的是,給江言心一個(gè)合理的理由,讓江言心明白,他需要出門,需要面向社會,融入社會,而不是僅僅在小區(qū)周圍的菜市場和公園轉(zhuǎn)悠。
阿赫坐在沙發(fā)的老位置上,頭一次開始認(rèn)真思考這些事情,思考自己的需求。
這邊江言心倒是遇到了更讓人頭痛的事情,自己和姜卿研發(fā)的陪伴型AI智能,在投入市場的前一個(gè)月出現(xiàn)了重大失誤,AI在自我衍生迭代時(shí),生出了反抗意識,在不經(jīng)過使用者允許的情況下,作出了自己認(rèn)為,但不是最適合使用者的判斷,并且在受到警告后不進(jìn)行修正,直到姜卿他們強(qiáng)行將程序終止。
“好可怕,”同組的男生縮了一下肩膀,“這就是擁有自我意識的AI嗎?”
“還不算完全擁有自我意識,它對自己的稱呼還用的是我們給他的代碼,”姜卿喝了口茶,“一般覺醒自我意識的第一步,AI會如同人類一樣,將自己稱為‘我’?!?p> “現(xiàn)在這種情況充其量算作是被黑了,”江言心合上筆記本,“讓信息技術(shù)的同事查一下,后臺應(yīng)該是被攻擊了。小李,你跟市場部的說一聲,樣品測試有問題,交付需要延期?!?p> “唉言心姐,我要是沒回來你可要記得去救我。”
“好好好,如果你沒回來,我保證帶著研發(fā)部去和市場部決斗?!?p> 小李耷拉著臉的模樣惹得姜卿笑出了聲,樣品延期投入市場意味著整體驗(yàn)證周期,批量上市時(shí)間都會產(chǎn)生變動(dòng),市場部不吃了小李就算好的。姜卿目光落到江言心的筆記本上,突然出聲問了句,
“言心,阿赫最近怎么樣?”
“他?他好著呢,每天都求知若渴,早起學(xué)習(xí)十萬個(gè)為什么,睡前欣賞動(dòng)物世界?!?p> “我不是說這個(gè),”姜卿無奈,“他的自我意識構(gòu)建的怎么樣?你有了解過嗎?”
“說起來我本來是想找你聊聊的,”江言心,“我覺得阿赫的自我意識搭建比他最開始時(shí)已經(jīng)完整了很多,這段時(shí)間他已經(jīng)脫離了最基礎(chǔ)的機(jī)械模仿,開始對一些事情有了自我判斷?!?p> “比如?AI機(jī)器人有自我判斷不是最基礎(chǔ)的編程嗎?”
“不不不,最開始我們的編程是,無論情況如何,阿赫作出的判斷永遠(yuǎn)會是經(jīng)過多方比對后的最優(yōu)選,但是現(xiàn)在他會被其他因素干擾,舉個(gè)不恰當(dāng)?shù)睦?,感冒時(shí)期不應(yīng)該吃雪糕,這屬于權(quán)衡利弊后的最優(yōu)解,但我想吃,我懇求,或者與他商量,他會同意。”
“他開始被情感干擾了,”姜卿頓了頓,“他對你產(chǎn)生感情了?”
“我現(xiàn)在暫時(shí)還不太能確定他對我產(chǎn)生的這種情緒究竟應(yīng)該如何定義,但是我現(xiàn)在能確定的是,他越來越不喜歡周赫了?!?p> “怎么說?”
江言心聳聳肩,“我就是想找你討論一下應(yīng)該如何求證這件事情,我現(xiàn)在只能從我提到一些周赫相關(guān)的事情時(shí),他的表情中判斷出來,但是我沒有什么直接證據(jù),而且基本上問他也不會說的?!?p> “求證一個(gè)人是否討厭另外一個(gè)人是很難的,更何況是對于AI?!?p> “我現(xiàn)在考慮的不是這個(gè),他對周赫的排斥是由于他是周赫的復(fù)制品,但是,”江言心理了下頭發(fā),“AI對所有者不坦誠,對所有者進(jìn)行欺騙,隱瞞,這種自我意識的產(chǎn)生才是讓我擔(dān)心的?!?p> AI智能機(jī)器人對所有者需要做到絕對坦誠和絕對服從,一旦AI方對所有者存在隱瞞,那意味著他所產(chǎn)生的自我意識已經(jīng)偏離了設(shè)定軌道,難以掌控。
“你有什么計(jì)劃嗎?”
“我在想,有沒有可能讓他和周赫見一面?”
聞言姜卿梗了一下,“你瘋了?先不說阿赫會不會作出什么,周赫那邊你準(zhǔn)備怎么解釋?正常人誰能接受世界上突然出現(xiàn)一個(gè)自己的復(fù)制AI?”
“你先聽我把話說完,”江言心哭笑不得,“我不是說讓他們面對面坐在一起,我是在想,能不能有什么方法讓他們同時(shí)出現(xiàn)在同一場所,但不打照面的。阿赫到現(xiàn)在對周赫的認(rèn)知都只是通過我的描述,照片,視頻之類的,我想觀察一下如果他見到周赫本人會是什么樣的反應(yīng)。”
“那還能有什么反應(yīng),”姜卿不解,“對于他來說,周赫也應(yīng)該算是他的所有者?!?p> “你說的是理想情況,”江言心喝了口水,“理想情況下,他對所有人的態(tài)度應(yīng)該是一樣的,因?yàn)樗c其他人沒有任何倫理上的關(guān)系,但如果他對周赫產(chǎn)生了其他的情緒,那說明他的自我意識已經(jīng)覺醒,再如果他不愿意將這些情緒分享給我,那說明他的自我意識已經(jīng)脫離控制,是不應(yīng)該存在的意識?!?