機器戰警巡邏中?新加坡「Xavier」的AI社會監控論戰 | 過去24小時 | 轉角國際 udn Global

0
9
新加坡在今年9月初推出名為「 Xavier」巡邏機器人的測試計劃,執行巡邏警察的...

2021/10/08 轉角24小時

新加坡在今年9月初推出名為「 Xavier」巡邏機器人的測試計劃,執行巡邏警察的任務,負責偵測「不良社會行為」,引發正反不同意見。 圖/法新社

機器戰警巡邏中?新加坡「Xavier」的AI社會監控論戰

「我們距離機器戰警的世界,還有多遠?」新加坡在今年9月初推出名為「 Xavier」巡邏機器人的測試計劃,執行巡邏警察的任務,負責偵測「不良社會行為」,包括在禁煙區吸煙、違反社交距離、監督非法攤販、或是亂停腳踏車等。 Xavier測試計劃引發正反不同意見,支持派認為這不僅能解決人力短缺問題,還可以有效強化社會安全網;反對派則擔憂Xavier可能伴隨的全面監控和個資隱私問題。極力發展「AI國家」的新加坡,這是實現「 智慧型」社會的進化實驗,還是機器監控的反烏托邦世界?

巡邏機器人「Xavier」,名稱典故取自歐洲巴斯克語的「新家」(New room)或「城堡」(castle)之意。2021年9月5日在新加坡新手上路,以住宅區和購物中心為重點區域,展開為期三週的試驗計劃。Xavier為四輪驅動的車型機器人,總共搭載7個360度視角、具夜視功能的鏡頭。前端正面有LED跑馬燈和電子螢幕,用以顯示動態訊息和宣傳資訊。依靠自動導航系統,Xavier能夠在設定好的路線上巡邏,並且透過影像和資料庫來辨識沿途的障礙物,以及需要被端正的「不良社會行為」。

在《法新社》拍攝Xavier的執勤影片中,行走於熱鬧街區的Xavier顯得格外引人注目,而最令人在意的是Xavier究竟如何「執法」,巡邏機器人的實質效能到底如何?在畫面中Xavier朝向在吸菸區吸菸的民眾靠近,並以女聲廣播器提醒:「亂丟垃圾是違法行為。」接著Xavier又轉往移動到幾位群聚下棋的老人附近,再次發出提醒:

「請保持一公尺的距離,每個團體請不要超過五個人。」

實際上Xavier無法做出人類警察那樣開單罰款、甚至逮捕的任務,僅只能透過聲音的警告勸導民眾。儘管是巡邏輔助功能,但其突破性也在於對外在環境識別的精準度大幅提升,根據新加坡官方的資料,Xavier的AI系統依靠大數據資料,能有效辨別「吸菸的人」、「亂停腳踏車的區域」、或是違反防疫的多人群聚等場景資訊。

同時Xavier內建警察指揮中心的即時系統,讓執法部門可以直接遠端操控Xavier、即時監控Xavier所拍攝到的畫面,如果有必要的話,警察也可以直接透過Xavier發出人聲廣播。換句話說,就算Xavier沒有實質阻止不良社會行為的能力,但做為警察監控的「分身」,Xavier是提高見警率和威懾力的靈活機器。

不過,當Xavier在發出警告的同時,機器人頭部的攝影機也同時對著被警告的人——在鏡頭的背後,究竟是些什麼人在觀看影像?360度無死角的街頭紀錄,這些影像和資料究竟會如何使用、又會被誰利用?Xavier的巡邏試驗,也引發了新加坡隱私的全面監控憂慮。

2021年9月5日在新加坡新手上路,以住宅區和購物中心為重點區域,展開為期三週的試驗計劃。Xavier為四輪驅動的車型機器人,總共搭載7個360度視角、具夜視功能的鏡頭。 圖/法新社

考慮到勞動力短缺和人口老化問題,新加坡一直希望推動以科技驅動的智慧型國家願景,過去也已經研發不同功用的機器人、投入不同的領域使用。儘管機器人在一定程度上為城市和民眾帶來便利與效率、且這也意味該國科技的創新與突破,但同時民眾的憂慮也在於個資問題。

對此,官方說法為機器人僅在試驗階段,並不會以此辨識或對付違法者,不過民眾仍存疑慮。一名在商場裡看見巡邏機器人的民眾告訴《法新社》:

「這讓我聯想到『機器戰警』(Robotcop)…讓人想起機器人的反烏托邦世界,我對此有點猶豫。」

尤其,相關的個資問題方才於今年1月在新加坡引起爭議。《衛報》報導,新加坡政府在疫情期間研發並推出「Trace Together」追蹤軟體,以收集和追蹤確診者和密切接觸者的足跡。截至今年1月,約80%的民眾(新加坡人口約570萬)使用該軟體,在當時引發有關個資收集、使用和儲存等討論。後來,新加坡政府在1月5日承認警方可以在進行刑事調查時「有權取用任何收集資料」,包括從軟體裡收集到的數據,此說法與官方先前表示「所有數據僅用於追蹤接觸者」不符,隨即引發批評。

然而,不僅是新加坡,在南韓、澳洲等國也引發有關政府應該如何處理個資安全的問題,如澳洲政府便立法規定僅有衛生部相關單位可以使用收集到的追踪資料,警方若有需求必須先向法院申請。新加坡政府之後也比照類似做法,在2月通過立法,規定:待疫情結束後,政府伺服器將刪除「Trace Together」等相關軟體的訪客登記記錄,且限制警方只有在調查嚴重的犯罪行為(如謀殺、恐怖攻擊等),才能調閱用戶資料。

圖/路透社

在先前有了「不良好」的個資使用記錄,官方在Xavier機器人開始測試之際,便表示該機器人不具有臉部辨識系統,且主要用於「教育」和「威懾」目的,而非執法。至於收集到的數據在經過相關單位分析後,就會透過必要安排銷毀數據。

《海峽時報》報導,Xavier機器人計劃由五個公共機構一起參與,分別是:新國家隊科學技術局(HTX,負責科學技術開發)、國家環境局、陸路交通局、食品局和住房委員會。這五個機構表示,此次為首次在人流量非常大的公共區域讓Xavier機器人巡邏和,希望提高公眾的安全和健康以及減少巡警的人力需求。例如,收集到數據可以幫助辨別違停的個人代步工具,相關單位可以將重心集中在這些區域。

事實上,Xavier也並非首次出現在新加坡的機器人,Xavier的前身便是Matar機器人。Matar機器人曾在2019年新加坡的國慶典禮上出現,也曾在2020年爆發移工宿舍群聚感染之時,在宿舍中執行「提醒移工保持社交距離」的任務。相關單位可以遠程操控Matar機器人,同時也可以指派它去巡邏,從而減少與被隔離者有更多不必要的接觸,甚至也可以提醒、威懾移工。

對此,檢察官告訴《海峽時報》: 「有時候,移工排隊時會忘了遵守安全距離,此時,Matar就可以給他們口頭提醒…Matar也起到了威懾作用,一但移工看到巡邏機器人,他們就會遵守社交安全距離。」

Matar機器人曾在2020年爆發移工宿舍群聚感染之時,在宿舍中執行「提醒移工保持社交距離」的任務。 圖/Singapore Police Force

新加坡在2020年4月也派出名為Spot、具有四隻腳的無頭機器人在公園和花園等公共區域巡邏 圖/法新社

不僅是Matar,新加坡在2020年4月也派出名為Spot、具有四隻腳的無頭機器人在公園和花園等公共區域巡邏。與上述提到的機器人無太大差異,裝有攝影機的Spot擁有靈活的四肢,有利於其在草地上更靈活移動,同時也會以女聲來提醒民眾遵守防疫距離:「讓我們維持新加坡的健康!為了您與周圍的人的安全,請保持至少一米距離,謝謝!」

對此,有些人認為機器人可以來判定一個地區有多擁擠,能有效促進防疫。但也有人批評機器人令人「毛骨悚然」,一位當地民眾告訴《法新社》:

「這在某種程度上令人不寒而栗——像是有什麼東西在東張西望,我不確定當我靠近它時,它會如何反應。」

類似的個資爭議在過去幾年都出現在公眾與倫裡。新加坡是世界上數一數二被視為安全的國家,一向以執法嚴謹為名,但同時也承受「政府監控人民」之名,例如:新加坡目前已有9萬個警用攝像機,同時各個地方的燈柱未來也可能安裝臉部辨識系統,協助相關單位尋找特定對象。此外如上所述,新加坡也在疫情間推出巡邏機器人和派出無人機,藉此監控和防疫,也才讓個資和隱私的安全問題在在成為辯論焦點。

「這在某種程度上令人不寒而栗——像是有什麼東西在東張西望,我不確定當我靠近它時,它會如何反應。」 圖/路透社

新加坡政府在2019年11月公佈國家人工智能戰略(National AI Strategy),希望深化人工智能的社會各方面的使用,並改善五個領域的問題,包括:提升運輸和物流的效率、發展智慧城市和提升市政效率(如利用聊天機器人了解社區問題)、醫療保健(慢性病偵測、臨床數據分析)、制定客制化教育學習,以及提升邊境關卡的安全保障。同一年,新加坡政府也成立新國家隊科學技術局(HTX),此主要負責與國土安全的科學技術開發。

由此可見,新加坡在發展人工智能上極具野心,目標是希望在2030年讓新加坡成為開發和部署人工智能的領導者。目前,不僅是機器人,送貨機器人和無人駕駛公車也已經開始在新加坡測試上路。但並非每一次的測試都如此順利,近期新加坡衛生部的AI聊天機器人便鬧出了民眾與機器人「牛頭不對馬嘴」的笑話:

民眾:「女兒的檢測呈陽性(Covid positive),該怎麼辦?」

機器人:「至少在你女伴懷孕期間,你應該透過正確並且持續使用保險套或禁慾,來進行安全的性行為。」

圖/路透社

圖/路透社

儘管是AI機器人鬧出的一則笑話,但背後也反映了——如果發展人工智能已經成為不可擋的趨勢,那麼要如何確保新加坡在成為「 智慧型」國家之際,不會以此來監控人民?基於新加坡過去有限的言論自由以及集會空間,反對派又是否有拒絕的權利和空間?

針對剛推出Xavier機器人,新加坡倡議人士就告訴《法新社》:

「基於我們明顯地受到監視,這是反烏托邦的。但我認為更反烏托邦的,是這一切都被正常化了,人們對此根本沒有太大的反應。」

在極速發展高科技的趨勢下,這也成為新加坡、世界各國不得不面對的問題:如果想要全力發展人工智能,那要如何在發展、社會利益、公民權利、個人隱私之間取得適當平衡?

如果發展人工智能已經成為不可擋的趨勢,那麼要如何確保新加坡在成為「 智慧型」國家之際,不會以此來監控人民? 圖/路透社

收看更多文章,請訂閱轉角國際facebook專頁:

LEAVE A REPLY

Please enter your comment!
Please enter your name here