可否信任機械人?

警方的數字顯示, 在過去的一年中, 「網上情緣騙案」飆升, 不單是宗數, 所涉及的金額也大幅增加。九月頭的一宗騙案, 持續時間之長、匯款次數之多、涉及金額之大, 令人難以置信。

「網上」當然也可以很真實, 但不竟是一個虛擬世界, 很多時在「網上」交流互動的, 除了不一定是真正身份外, 更可能不是真人。現時很多提供服務的網站, 都會有Livechat , 用家在遇到使用上的問題時, 可以在有關的Pop-up Window 中, 與網站的支援服務作即時的文字對話。以現時的資訊科技, 從Livechat中得到的答案, 很多時是來自該網站相關的FAQ(常遇問題) 中, 其實背後只是機器在為你提供答案, 但當問題比較刁鑽時, 機器應付不來, 才會由真人出手, 整個過程, 用戶不會知道、亦不需要知道背後的究竟是機器還是人。

以上的例子, 在五至十年前, 可能會說成是「電腦」在為你提供答案, 但現時最流行的說法, 會是AI(人工智能) 在為你提供答案, 不過簡單來說, AI 亦是在電腦上運行的程式, 是機器。

矛盾的是, 網站會以機器為用戶提供服務, 但卻不想用戶是機器, 網站會通過一連串的驗證程序, 以證明即時的用戶是真正的一個人, 而不是機器, 不是以電腦程式來登入網站, 最常見的例子, 是要在網頁留言、或購買門票等。

以現時發現蓬勃的「網上商業」, 交易雙方彼此間都需要有足夠的互信, 交易才可成功, 雙方都需要知道對方是真實的、可靠的, 但一些所謂提供「資訊」的網站, 則完全可以「自說自話」, 信不信則由用家自行決定。現時因為手機可以上網, 不論事無大小, 都可以用搜索引擎搜索一下。據搜索引擎的顯示, 通常是在不到一秒之內, 尋找到成千上萬計有關答案資訊的網站, 「吾生也有涯」, 面對長長的網站清單, 絕大部份的人都只會最多看看最前面的一、二十個而已, 其實也只是最前面的一、二十個是比較貼題而已, 之後的有些可以完全無關。不過, 相信日後通過應用AI, 因應用戶的需要, 搜索結果可以會更精準、更貼題。

AI是電腦軟件, 如用來操作人形的硬件, 就是機械人, 現是已有不少能與人類互動的機械人, 提供各種服務, 如答複詢問、引領指示、及至為年幼小孩子提供娛樂、教育等, 據說效果很好, 很受小孩子歡迎。那麼人類可以信任機械人嗎?

那是一個很大的命題, 因為AI、機械人還有極大的發展空間, 將來的結果可能是現時難以想象的。

如不認真的, 我們可以看看科幻電影中, 在機械人與人類互動中的設計要求。在2004年一部以機械人為主角的電影I, Robot(香港譯作「智能叛變」), 一開場就列出了影片中的機械人的運作「基本法」: (1)不可傷害人類, 亦不能讓人類受到傷害; (2) 服從人類的指示, 但不能違反第(1) 條; (3) 保護自身安全, 但不能違反第(1) 及第(2) 條。

在1987年的 Robocop(香港譯作「鐵甲威龍」) 中, 也有類似的情節, 機械警察不能對其主人執法, 直至聽到You are fired!