「人機融合」值得期待 倫理風險亟待解決

  美國科幻巨匠阿西莫夫嚮往的未來世界，是以人類為代表的「碳文明」及以機器人為代表的「硅文明」和諧共存，他所提出的「機器人三定律」，已跳出科幻小說，具有了現實意義。
  很多人工智慧和機器人領域的技術專家將「機器人三定律」認定為未來機器人的安全準則，由此展開關於人與機器關係的大討論，並就「人機共融」的世界有可能存在的風險進行預判。
  在世界工程組織聯合會前任主席、中國電子學會副理事長龔克主持下，三位院士在2022世界機器人大會領航峰會上，圍繞機器人的發展方向、路徑及挑戰展開了對話。
通用型機器人必要性不大
  如中國科學院院士、中國科學院自動化研究所研究員喬紅所言，人類對機器人有很多期待，隨著技術的發展和應用漸次落地，人們希望機器人能替我們做更多的事情，甚至更像人類。
  喬紅表示，從某種意義上說，當機器人從簡單的服務進化為越來越多地替代人類從事複雜、艱難、危險的工作，它和人類的關係已從「奴僕」走向好朋友，地位逐漸平等，但無論「人機融合」如何發展，服務於人依然是機器人的生存準則。
  關於公眾關注的未來機器人長什麼樣，中國工程院院士、中國科學院瀋陽自動化研究所機器人技術國家工程研究中心主任王天然認為，未來機器人本體形態將會五花八門。
  王天然說：「人對機器人有非常多的幻想，如果真的有人造肌肉代替現在機器人的鋼鐵機械臂，運動學都要重寫。」
  在中國科學院院士、清華大學人工智慧研究院名譽院長張鈸看來，基本建立在電機和齒輪傳動機基礎之上的機器人要完成物理世界的任務，可以走仿真之路，但目前還做不到真正仿人，因為材料等問題還沒解決。
  「圍繞通用人工智慧有很多爭論，但造一個完全跟人一樣的機器人，必要性不是很大，目前也做不到。」張鈸說，「機器人的目標是協助人類完成任務，它基本表現為專用而非通用，既然如此，沒必要非讓手術機器人去扛大包，多任務種類的機器人是合理存在。」
發展要抓創新也要抓治理
  人工智慧技術對機器人的發展有著至關重要的影響，但張鈸指出，公眾對機器人和人工智慧兩個重要領域的理解存在偏差。
 「或許是因為名字的關係，『機器人』讓公眾誤解為它必須像人，『人工智慧』讓公眾以為它是做智能的。」張鈸指出，不能把人工智慧和機器人劃等號，也不能把雙方理解為互相包含，這是兩個獨立的學科和應用領域。
 「機器人模擬人類的智能行為只是手段之一，它的目標是協助人類完成某種任務。人工智慧的目標是用機器模仿人類的智能行為，追求的是機器的行為跟人類行為的相似性。」張鈸強調，人工智慧是用機器模擬人類的智能行為，不是模擬智能。
  包括霍金在內的很多學者都持有這樣的觀點，人類一旦研製出有自我意識的超智能機器人，將無法控制它，後果很嚴重。
  王天然表示，機器人統治人類的想法過於科幻，挑起了人和機器的矛盾。人類設計製造機器人的目的，不是讓它爭奪控制權，人造機器不可能達到這個目標。
  那麼，人與機器的關係究竟應該怎樣？王天然以外骨骼機器人為例指出，現在的外骨骼機器人可以幫助傷殘人士解決一定問題，它和人類的關係「宛如手足」。但人背負一堆鋼鐵，既不舒服，也暫未實現很好的協調。未來，希望人和機器人能夠達成彼此感知互動，實現人和機器人「宛如同類」的關係。
  張鈸對當前的人工智慧賦能機器人未來發展持謹慎態度。儘管人類是否能製造出超級智能機器人在學術界還存在爭議，但張鈸指出，現階段人工智慧算法存在不安全、不可靠等風險，「仿聲」「換臉」等誤用、濫用人工智慧問題的出現發出了預警，機器人發展的遠慮已經變成近憂，必須馬上著手解決。
  資訊科技發展異常迅猛，但基本實現了安全可控，重要原因在於，資訊學基礎理論在資訊科技發展之初就已建立。因此，張鈸重申為人工智慧補上理論基礎的「第三代人工智慧」理念初衷。
  具體來說，就是融合第一代的知識驅動和第二代的數據驅動的人工智慧，建立新的可解釋的人工智慧理論與方法，從而發展安全、可信、可靠和可擴展的人工智慧技術。
  張鈸強調，雖然未來機器人治理有很多難題，但可研究新的倫理分析工具進行更好的倫理分析和結果預測，利用深度學習方法對不道德和道德行為給出樣本進行分析，以及通過仿真模擬大量實驗來解決安全性問題和倫理問題。