去年 9 月，Google的雲端部門研究使用人工智慧來幫助一家金融公司決定向誰借錢。
經過數週的內部討論後，該公司拒絕了客戶的想法，認為該項目在道德上過於冒險，因為人工智慧技術可能會延續種族和性別等偏見。
自去年初以來，Google也阻止了分析情緒的新人工智慧功能，擔心文化不敏感，而微軟限制了模仿聲音的軟體，IBM拒絕了客戶對先進臉部辨識系統的請求。
根據對美國三大科技巨頭人工智慧道德負責人的採訪，所有這些技術都受到了高階主管或其他領導人小組的限制。
路透社首次報導了他們的否決以及導致否決的深思熟慮，反映出整個行業正在興起一種動力，以平衡對利潤豐厚的人工智慧系統的追求與更多地考慮社會責任。
「機會與危害並存，我們的工作就是最大限度地增加機會並儘量減少危害，」擔任Responsible AI 董事總經理、谷歌雲兩個道德委員會成員的特雷西·皮佐·弗雷(Tracy Pizzo Frey)說道。
監管人工智慧
例如，微軟首席人工智慧長娜塔莎·克蘭普頓 (Natasha Crampton) 表示，該公司必須在利用語音模仿技術恢復受損人言語的好處與政治深度造假等風險之間取得平衡。
人權活動人士表示，對社會可能產生廣泛影響的決定不應僅在內部做出。他們認為道德委員會不可能真正獨立，其公共透明度受到競爭壓力的限制。
歐洲公民自由聯盟的倡議官員賈沙·加拉斯基 (Jascha Galaski) 認為外部監督是前進的道路，美國和歐洲當局確實正在為這一新興領域制定規則。
加拉斯基說，如果公司的人工智慧道德委員會「真的變得透明和獨立——這一切都是非常烏托邦的——那麼這可能比任何其他解決方案都更好，但我認為這不現實。 」
兩家公司表示，他們歡迎對人工智慧的使用進行明確的監管，這對客戶和公眾的信心至關重要，類似於汽車安全規則。他們表示，負責任地採取行動也符合他們的經濟利益。
不過，他們希望任何規則都足夠靈活，以跟上創新及其帶來的新困境。
IBM 告訴路透社，在未來複雜的考量中，其人工智慧道德委員會已開始討論如何監管一個新興領域：將電腦連接到大腦的植入物和穿戴式裝置。
IBM 首席隱私官 Christina Montgomery 表示，此類神經技術可以幫助受損人士控制運動，但也會引發駭客操縱思想等擔憂。
道德委員會
科技公司承認，就在五年前，他們推出了聊天機器人和照片標記等人工智慧服務，幾乎沒有道德保障，並透過後續更新解決了濫用或有偏見的結果問題。
但隨著政治和公眾對人工智慧缺陷的審查不斷加強，微軟於 2017 年、谷歌和 IBM 於 2018 年成立了道德委員會，從一開始就審查新服務。
谷歌表示，去年 9 月，一家金融服務公司認為人工智慧可以比其他方法更好地評估人們的信用度，因此該公司陷入了放貸困境。
該專案似乎非常適合谷歌雲，谷歌雲在開發人工智慧工具方面的專業知識有助於檢測異常交易等領域，吸引了德意志銀行、匯豐銀行和紐約梅隆銀行等客戶。
谷歌的部門預計基於人工智慧的信用評分可能會成為一個每年價值數十億美元的市場，並希望獲得立足點。
然而，Pizzo Frey 表示，由約 20 名經理、社會科學家和工程師組成的道德委員會在 10 月的一次會議上審查潛在交易，一致投票反對該項目。
委員會得出結論，人工智慧系統需要從過去的數據和模式中學習，因此可能會重複世界各地針對有色人種和其他邊緣群體的歧視做法。
更重要的是，該委員會（內部稱為「Lemonaid」）制定了一項政策，跳過所有與信用度相關的金融服務交易，直到此類問題得到解決。
谷歌還表示，其第二個雲端道德委員會（名為「Iced Tea」）今年對一項2015 年發布的服務進行了審查，該服務根據四種表情對人物照片進行分類：快樂、悲傷、憤怒和驚訝。
在此之前，Google公司範圍內的道德小組高級技術審查委員會（ATRC）去年做出了一項裁決，禁止與閱讀情感相關的新服務。
谷歌負責任創新團隊的創辦人兼負責人 Jen Gennai 表示，由十幾名主管和工程師組成的 ATRC 認為，推斷情緒可能不敏感，因為面部表情與跨文化感受的關聯不同等原因。
再現聲音與臉孔
與此同時，微軟開發了可以從簡短樣本中再現某人聲音的軟體，但該公司的敏感用途小組隨後花了兩年多的時間就其使用的道德問題進行了辯論，並諮詢了公司總裁布拉德史密斯，高級人工智慧官克蘭普頓告訴路透社。
她表示，該小組由人權、數據科學和工程等領域的專家組成，最終為定制神經語音在今年 2 月全面發布開了綠燈。但它對其使用施加了限制，包括驗證受試者的同意，以及接受過企業政策培訓的「負責任的人工智慧冠軍」團隊批准購買。
IBM 的人工智慧委員會由約 20 名部門領導組成，在 COVID-19 大流行初期，該委員會審查了客戶關於客製化臉部辨識技術以識別發燒和臉部遮擋物的請求，該委員會陷入了自己的困境。
蒙哥馬利表示，她擔任聯合主席的董事會拒絕了這項邀請，並得出結論認為，手動檢查就足夠了，對隱私的侵犯也較少，因為任何人工智慧資料庫都不會保留照片。
六個月後，IBM 宣布停止其人臉辨識服務。
歐盟對此有何評論？
為了保護隱私和其他自由，歐盟和美國的立法者正在對人工智慧系統實施深遠的控制。
預計明年通過的歐盟人工智慧法案將禁止在公共場所進行即時人臉識別，並要求科技公司審查高風險應用程序，例如用於招聘、信用評分和執法的應用程式。
美國國會議員比爾福斯特就演算法如何在金融服務和住房領域推行歧視問題舉行了聽證會，他表示，管理人工智慧的新法律將確保為供應商提供公平的競爭環境。
「當你要求一家公司為了實現社會目標而減少利潤時，他們會說，『我們的股東和競爭對手呢？’這就是為什麼你需要複雜的監管，」來自伊利諾州的民主黨人說。
「可能有些地區非常敏感，以至於你會看到科技公司故意不介入，直到有明確的道路規則為止」。
事實上，一些人工智慧的進步可能會被擱置，直到公司能夠在不投入大量工程資源的情況下應對道德風險。
去年 10 月，谷歌雲端拒絕了客製化金融人工智慧的請求後，Lemonaid 委員會告訴銷售團隊，該部門的目標是有一天開始開發與信用相關的應用程式。
首先，谷歌雲在發給員工的政策中表示，打擊不公平偏見的研究必須跟上谷歌雲透過「高度敏感」技術提高金融包容性的雄心。
「在那之前，我們還無法部署解決方案」。
