葉文瀚博士專欄

如果有一天，你發現自己明明站在街上，人工智能監控系統卻看不見你，不用急着懷疑自己是不是突然隱形。你可能只是穿錯了一件衫。

德國藝術家的「數碼迷彩」實驗

最近，德國藝術家Simon Weckert在柏林做了一個相當有趣的實驗。他穿上一件非常「搶眼」的夏威夷衫，粉紅、橙紅、螢光綠等高飽和色彩，加上密密麻麻的圖案，整件衫看起來就像把調色板倒在身上。人類看到，大概只會覺得這件衫實在難看，但AI看到的，卻可能連眼前是一個人都判斷不出來。

這位藝術家把這件衣服稱為「數碼迷彩」。他故意穿着它走過人工智能監控鏡頭，結果系統未能正常把他辨認為一個人。人類的眼睛完全沒有問題，機器的眼睛反而先投降。

我覺得這件事相當有趣。尤其是在今天，大家已經習慣把AI說得神乎其技。AI會寫文章、畫圖、翻譯、分析數據，現在連一張照片裏面有多少人都可以幫你數。講到最後，好像機器已經比我們更懂得看這個世界。原來，一件88美元左右的夏威夷衫，就可以令它看不懂。

AI看到的未必是我們看到的

當然，這並不是說人工智能真的被一件花衫「打敗」了。事情沒有那麼神奇，反而更加有趣。電腦看東西，跟我們看東西，本來就是兩回事。我們看到一個人，根本不用特別思考。頭在上面，兩隻手在旁邊，兩隻腳在下面，正在走路，就是一個人。就算他穿了一件全世界最醜的夏威夷衫，我們也不會因此懷疑他的身份。

但AI不是這樣。它不是像人一樣真正「理解」眼前有一個人，而是根據過往學到的大量圖像特徵去作判斷。哪些輪廓像人、哪些比例像人、哪些圖案通常出現在人體附近，再計算眼前這個東西有多大機會屬於某一個類別。問題是，只要你把這些特徵攪亂，機器便可能一下子失去方向。

人工智能的世界，原來沒有我們想像中那麼「懂」。它只是很會猜，而且很多時候，猜得非常準。但「猜得準」和「真正理解」，其實是兩回事。

同樣被捉弄的Google Maps

Simon Weckert也不是第一次拿現實世界來捉弄數碼世界。2020年，他曾經做過一個更加荒謬的實驗。他把99部二手智能手機放在一架手推車上，然後慢慢拉着它走過柏林街頭。結果Google Maps收到這批手機的位置數據後，竟然判斷那條路出現交通擠塞。你沒有看錯。不是99架汽車，而是99部手機。地圖上的「塞車」，其實只是一個人拉着一架載滿手機的手推車。

這件事有趣的地方，是Simon Weckert根本沒有破解Google。他沒有入侵系統，也沒有改動任何程式。他只是做了一件很簡單的事：給演算法它想要的數據。對Google Maps來說，一大堆手機聚集在一起，可能代表一大堆人和車停在同一個地方。於是系統根據這些資料作出合理推斷，只不過現實世界偏偏不是那回事。

最值得擔心的是我們太快信任AI

所以，Simon Weckert這兩次作品，我反而覺得比很多一本正經討論AI風險的文章更有意思。他沒有告訴你「人工智能很危險」。他只是用99部手機製造了一場不存在的塞車，再用一件花到不得了的夏威夷衫，令一個明明站在鏡頭前的人消失。一邊是「沒有塞車，AI卻說有」，另一邊是「明明有人，AI卻說看不到」。

兩件事其實都在問同一個問題：我們究竟有多相信機器告訴我們的世界？這一點，在人工智能愈來愈深入日常生活之後，尤其值得留意。因為真正令人擔心的，未必是AI有一天突然變得太聰明，有時候反而是我們太快相信它。

AI說這個人是誰，我們相信；AI說這條路塞車，我們相信；AI分析一張照片，說裏面發生了甚麼，我們也很容易相信。但機器所謂的「看見」，其實往往只是根據資料和模式作出的判斷。它可以很準，卻不代表它一定對。

作者葉文瀚博士是聖方濟各大學創業培育中心副總監，亞洲行銷科技協會主席。

文章僅屬作者意見，不代表香港01立場。

01專欄精選不同範疇專家，豐富公共輿論場域，鼓勵更多維度思考。