機器人，另一個我

開頭說到AI、隱私和機器人科幻之間可能存在某種關聯(lián)。這種關聯(lián)源自技術的不斷發(fā)展，科幻為技術的未來提供了某種可能性的遐想。

AI的發(fā)展需要很多數(shù)據(jù)來滿足場景建模的需要，AI算法可以通過分析每個人的各種行為數(shù)據(jù)推導出這個人的人格特征。算法通過個人在社交網(wǎng)站中的點贊數(shù)據(jù)即可分析出這個人的喜好特征，通過協(xié)同過濾算法就可以對個人進行精準廣告推送，比如給外向的人推送的廣告場景相對活躍和充滿激情，給內向的人推送的則是相對安靜和私密的場景。

同樣的分析手段甚至被用在選舉宣傳的過程中，能起到影響選民決策判斷的作用。通過給不同性格或者意向動搖的選民推送不同版本的選舉廣告，或者推送對手的負面新聞，左右目標群體的決策，來達到“心理操縱”的目的。

而不斷進化的人臉識別技術可以僅通過面部特征的識別就能判斷出一個人的性取向這么私密的信息，準備率能達到80％以上，而我們人類本身很難只通過一張臉就能判斷出一個人的性取向。以色列的一家公司Faception聲稱，可以直接通過面部特征來識別恐怖分子、高智商的人群，分分鐘看透你的內心。

AI可以不斷地從人類的隱私數(shù)據(jù)中攫取價值，甚至能夠再現(xiàn)人的心智模型。有沒有想過，有一天，一旦AI掌握了人的足夠多的關鍵數(shù)據(jù)，建立更加完備的模型，不僅能做到“心理操縱”，甚至可以做到“心靈控制”。

人類的實體存在和精神存在被抽象為一個個復雜的畫像模型，或者“心靈鏡像”，這些模型和鏡像包含了我們的所有特征，包括身份、性格、思維等等。只要將數(shù)據(jù)拷貝到一個機器人中，就可以生成另一個“我”，甚至另一批“我”。

這里的機器人可以理解為以機器為載體的AI算法和存儲機制，加上更為先進的能源和機器進化機制，托管人類只是理所當然的事情，人類的心靈鏡像只是被更為高階的AI算法利用。會發(fā)生什么，我現(xiàn)在還不敢往下去想。

這或許讓你想起了《黑客帝國》、《異次元駭客》這樣的科幻電影。AI通過不斷的迭代和進化，直至讓機器人達到與人的心靈模型近乎一致，這是科學家們一直在追求的夢想，也是可怕的未知的未來。

已知的未來

AI應用的邊界、隱私數(shù)據(jù)保護的度在哪里，現(xiàn)在還是未知。社交活動數(shù)據(jù)、零售數(shù)據(jù)、金融行為數(shù)據(jù)、醫(yī)療健康數(shù)據(jù)等被廣泛用于AI各種應用場景，的確也朝著為人類帶來更多服務的方向發(fā)展，但是對于這樣的涉及隱私數(shù)據(jù)利用的監(jiān)管仍處于探索階段。

任何企業(yè)應用與隱私之間需要一個權衡。歐盟去年5月出臺的一般數(shù)據(jù)保護條例（GDPR）中有幾條關于隱私數(shù)據(jù)的保護原則，其中不僅包括隱私數(shù)據(jù)的處理過程需公正透明，使用場景和保留期限需明確限定，數(shù)據(jù)需保證完整、準確和保密等要求；而且還要求對隱私數(shù)據(jù)的獲取要滿足最小化原則，也即只獲取必要的、相關的、限定的隱私數(shù)據(jù)。

GDPR的推出在全球關乎隱私數(shù)據(jù)的保護方面具有非常強的引領作用。在各種AI算法和模型得到越來越廣泛應用的今天，針對上述隱私數(shù)據(jù)的保護原則，尤其是最小化原則、保密性原則、透明性原則，AI公司或者與AI產(chǎn)品相關的公司必須考慮AI算法的發(fā)展方向�？梢灶A見，未來滿足下面條件的算法將是主要方向：

（1）需要更少隱私數(shù)據(jù)的AI算法。這樣的算法要么可以自己生成觀測數(shù)據(jù)，如生成式對抗網(wǎng)絡（GAN）；要么通過分布式解決中心化訓練對數(shù)據(jù)量的要求，如分布式機器學習（Federatedlearning）可以實現(xiàn)在邊緣設備端進行模型的再訓練。

（2）基于加密數(shù)據(jù)的訓練算法。將原始隱私數(shù)據(jù)加密，并且還能通過加密后的數(shù)據(jù)進行訓練，這樣不需要減少對隱私數(shù)據(jù)的獲取，也能保證數(shù)據(jù)的保密性。這樣的算法包括差分隱私技術、同態(tài)加密以及遷移學習等方法。

（3）可解釋的AI（Explainable AI，簡稱XAI）。很多AI算法的黑箱性質讓人類擔憂。XAI致力于提高算法應用的透明度，構建“玻璃箱”模型，使人類能夠輕松理解AI算法，提高AI認知智能在人類活動中的可信度。這將是未來趨勢。