隨著科技的進步，“人臉識別”被越來越多的場景采用，解鎖、購物、打卡、門禁、買房……進公園人臉識別，進售樓處被人臉識別，濫用人臉識別侵犯個人隱私是近期的社會熱議話題，也引起社會廣泛焦慮。近日，南京多家售樓處被責令要求拆除現(xiàn)有的人臉識別系統(tǒng)，這在全國尚屬首例。隨即，天津立法杜絕信用信息場景下濫用人臉識別技術(shù)。那么，在人臉識別時代，我們到底要不要說“不”?
在技術(shù)商業(yè)化過程中“不作惡”應(yīng)是企業(yè)基本社會責任所在
在技術(shù)商業(yè)化過程之中，除了監(jiān)管為“不可為”劃清紅線，企業(yè)也需明確“不應(yīng)為”的邊界，“不作惡”本應(yīng)是企業(yè)的基本社會責任所在。
人工智能技術(shù)的蝴蝶效應(yīng)，正在從科幻討論變?yōu)楝F(xiàn)實爭議。作為AI技術(shù)的最典型應(yīng)用，人臉識別持續(xù)成為爭議的風口。
一面是技術(shù)的不斷突飛猛進：作為一項前沿技術(shù)，人臉識別被用于安防、交通等領(lǐng)域，效果立竿見影，如今已經(jīng)在支付轉(zhuǎn)賬、實名登記、解鎖解密等場景中廣泛應(yīng)用，人們也確實享受著人臉識別技術(shù)進步所帶來的便利。
但另一面，越來越多的攝像頭被安裝在各種場景中，關(guān)于技術(shù)正在被濫用的質(zhì)疑越來越多：從售樓處到辦公室，當連考勤打卡也需要通過釘釘之類辦公軟件“人臉識別”的時候，在日常生活場景中如何保護我們的臉，如何保護人臉背后的個人信息和隱私安全，已經(jīng)成為了技術(shù)成熟落地過程中所面臨的最大挑戰(zhàn)所在。
由于人臉識別技術(shù)在此前屬于新興技術(shù)，在其應(yīng)用初期擁有一定的探索“真空期”也是情有可原。只是，當人臉識別在當下已經(jīng)足夠成熟到可以低成本快速復制之時，及時的標準制定和立法規(guī)制就顯得迫切起來。
好在立法的進程已經(jīng)在不斷提速。今年1月，中國支付清算協(xié)會還制定了《人臉識別線下支付行業(yè)自律公約(試行)》。在公約中，中國支付清算協(xié)會表示，會員單位應(yīng)建立人臉信息全生命周期安全管理機制。今年10月，個人信息保護正式立法，旨在規(guī)范平臺擅自收集用戶數(shù)據(jù)等行為。近日，天津更是公示率先立法禁止人臉識別的濫用，各個地方也在跟進規(guī)范人臉識別的法制步伐。
當前，美國多個州市已經(jīng)頒布明確禁令，禁止執(zhí)法部門、政府機構(gòu)使用人臉識別和監(jiān)控技術(shù)。歐盟在今年年初就在草擬3到5年內(nèi)禁止在公共場所使用人臉識別技術(shù)的計劃?，F(xiàn)在，中國也加入了“限制”人臉識別技術(shù)應(yīng)用的隊列。
可以看到的是，強化對個人信息收集的立法監(jiān)管已經(jīng)是大勢所趨。但接下來更為重要的問題是，無論是行政監(jiān)管還是立法約束，畢竟相對于當下即時變幻的市場風云來說是滯后的。法律的力量，其實已經(jīng)是社會風險防范的最后一道防火墻;在這道防火墻之前，作為技術(shù)應(yīng)用的第一道把關(guān)人，更需要的是企業(yè)在技術(shù)面前的人本敬畏和對技術(shù)的應(yīng)用邊界保持警醒。
畢竟，技術(shù)本身是中立的，如何使用技術(shù)才是技術(shù)應(yīng)用風險的主要來源。在數(shù)字時代，人臉識別與驗證指紋、簽名等方式相比更加便捷，但人們?yōu)檫@種便捷所付出的代價，不應(yīng)是隱私泄露和個人權(quán)利被侵犯。
因此，在技術(shù)商業(yè)化過程之中，除了監(jiān)管為“不可為”劃清紅線，企業(yè)也需明確“不應(yīng)為”的邊界，“不作惡”本應(yīng)是企業(yè)的基本社會責任所在。事實上，對人臉識別的爭議已在全球多國出現(xiàn)，處于風口浪尖的科技巨頭首當其沖。此前，IBM主動放棄人臉識別業(yè)務(wù)，宣布將不再提供、開發(fā)或研究任何人臉識別和人臉分析軟件;微軟則在去年刪除了其最大的公開人臉識別數(shù)據(jù)庫。
據(jù)此前央視公布的數(shù)據(jù)顯示，2010年-2018年，我國人臉識別行業(yè)市場規(guī)模年均復合增長率達30.7%，預計到2024年市場規(guī)模將突破100億元。毫無疑問，這將是一個天量的市場所在。
科技向善，人臉識別面前倫理思考應(yīng)高于市場利益
技術(shù)發(fā)展當然是必要的，但也要看方向，要向正確的方向。這就是科技向善的概念，即要從善的角度，從倫理的角度，去思考技術(shù)的影響，而不能僅僅出于市場利益。
繼南京責令拆除售樓處人臉識別系統(tǒng)后，天津的禁令首次從地方立法層面，規(guī)范了人臉識別技術(shù)的使用。對于規(guī)范人臉識別技術(shù)的發(fā)展，意義重大。
實際上，很大程度上來說，人臉識別并不是一個基于安全考量的技術(shù)。我們平常用的密碼，比如支付密碼、銀行卡密碼，都是藏在用戶的心里的，不會有被盜取的可能，所以，高安全場景都是采用的字符密碼。
相比之下，人臉不可能被藏起來，明晃晃的顯示在公共場合之中，可以獲取的手段就太多了，甚至在朋友圈、社交網(wǎng)站上都可以搜到。而且，生物信息與之所以敏感，因為它與一般的自設(shè)密碼不同，密碼丟失了，可以再設(shè)置，但指紋、人臉、虹膜、聲紋等生物信息丟失了，就會永久失去這一信息的私密性、從而失去保密功能。所以，人臉信息更加敏感。
歐盟地區(qū)的數(shù)據(jù)保護法《通用數(shù)據(jù)保護條例》(“GDPR”)就規(guī)定，面部圖像(facial image)構(gòu)成特殊類型個人數(shù)據(jù)下的“生物識別數(shù)據(jù)”，進而相較于一般個人數(shù)據(jù)受制于更高的保護要求。
由此可見，人臉識別并不是一個基于安全導向的發(fā)明，實際上，推動人臉識別技術(shù)在市場上普及應(yīng)用的，不是安全考慮，而更多的是基于方便和防范對象更廣。
在這兩點之上，又衍生出人臉識別技術(shù)的市場利益結(jié)構(gòu)。首先，人臉識別的確可以省人工。比如公園、公司打卡、小區(qū)門禁，都可以省事、省監(jiān)管。其次，人臉識別的購買者、實施者是凈獲益的。第三，很多人臉識別項目，購買者與承擔成本者是分離的，這里面有回扣空間，比如學校、小區(qū)的人臉識別項目。
所以，這種并非以安全為首要考慮的技術(shù)，由于其利益結(jié)構(gòu)，幾乎必然導向濫用。那么，反過來說，我們就更應(yīng)該思考其過猶不及之處。
行政法有六大基本原則，其中之一就是比例原則。所謂行政比例原則，是指行政主體實施行政行為應(yīng)兼顧行政目標的實現(xiàn)和相對人權(quán)益的保護，如為實現(xiàn)行政目標可能對相對人權(quán)益造成某種不利影響時，應(yīng)使這種不利影響限制在盡可能小的范圍和限度內(nèi)，保持二者處于適度的比例。
簡單的說，就是當有多種可供選擇的手段可以達到目的，應(yīng)該盡可能采取損害最小、最溫和、風險最小的手段，殺雞不能用牛刀。比如小區(qū)門禁、公司打卡，用密碼、IC卡可以解決的問題，為什么要用人臉、指紋這樣的生物信息來解決呢?這明顯不符合比例原則。
中國人崇尚發(fā)展，而這個發(fā)展的涵義，更多的偏向技術(shù)發(fā)展速度，但往往忽略了技術(shù)所帶來的社會影響，忽略技術(shù)發(fā)展的方向。技術(shù)發(fā)展當然是必要的，但也要看方向，要向正確的方向。這就是科技向善的概念，即要從善的角度，從倫理的角度，去思考技術(shù)的影響，而不能僅僅出于市場利益。即便對單個企業(yè)來說，很難如此全面，但行業(yè)、政府機構(gòu)、社會，需要有“善“的思考。
不久前，在深圳召開的全球人工智能創(chuàng)業(yè)者大會上，多家高校及人工智能企業(yè)聯(lián)合發(fā)起了《新一代人工智能行業(yè)自律公約》，旨在增強行業(yè)整體自律意識，積極推動人工智能行業(yè)的職業(yè)道德、倫理等方面的發(fā)展，以及科技向善的價值追求。相比行業(yè)內(nèi)部的自律，中國社會對這方面思考得實在太少了。
（轉(zhuǎn)載）
