原標題：我把頭像改成猛男，也不能避免“算法”的風險

今天早上看到朋友圈文章，幾個女孩子都把滴滴打車的頭像資料改成了猛男。乍一看好笑，但莫名感覺好心酸。

她們這么做無非是試圖自保，“嚇跑”那些不安好心的順風車司機，這個手動淘汰機制也算是對滴滴的一個小小反抗吧。

可是這招真的有用嗎？我的朋友在這篇文章下面留言：結果很可能就是她很難打到車了。

在個體無法控制算法時代未知風險的時候，人們有自保和提高警惕的想法似乎是自然而然的，問題是那多大程度改變是足夠的？自保和提高警惕又在多大程度上真的有用？

↑滴滴順風車司機對乘客的評價。微信公眾號截圖

↑滴滴順風車司機對乘客的評價。微信公眾號截圖

算法時代讓社會弱勢群體更加危險？

一位曾服務于美團和滴滴的境外投資者，署名“倫敦交易員”的作者發(fā)表了一篇題為《滴滴是如何走向邪惡的》文章。作者認為，滴滴為了維持更高的估值，圈進更多的資本來擴張，而需要“具有想象力”的故事，也就是“就怕你不約”的異性社交。

他還分析了“順風車”社交的產(chǎn)品“優(yōu)勢”：男女比例均衡、車內(nèi)場景封閉（姑娘不能輕易下車）等。換言之，滴滴順風車在經(jīng)濟刺激不足的情況下，靠異性社交彌補，抓住了順風車主“能賺個油錢，還能勾搭個妹子”的心理動機。一段時間以來，滴滴順風車甚至還搞過“我們約會吧”的廣告、“不怕貼標簽、就怕你不約”的口號。

“倫敦交易員”判斷滴滴的產(chǎn)品經(jīng)理不會不明白他們產(chǎn)品設計的潛在風險。

我不相信存在所謂中立的技術，因為技術是為了人類生活服務的，“倫敦交易員”的分析驗證了我的看法。英國萊斯特大學的講師陳玉潔也認為數(shù)據(jù)本身就是“以目的為導向”的。互聯(lián)網(wǎng)技術讓數(shù)據(jù)的復制和再使用變得十分容易，此次滴滴乘客遇害凸顯的正是數(shù)據(jù)肆無忌憚的越界造成的不良反應。

以此次事件為例，數(shù)據(jù)科學家們對數(shù)據(jù)的使用顯然更多的是在利用整個社會對女性的偏見。“性別友好”不在他們的詞典里，他們對打破社會偏見更是毫無興趣，能以她們?yōu)椤罢T餌”吸引到更多的“直男”用戶注冊，何樂而不為？

包括共享經(jīng)濟平臺在內(nèi)的很多互聯(lián)網(wǎng)科技企業(yè)都堅決否認自己是服務提供者，只是服務提供者和獲取者之間的聯(lián)結者，以對他們的社會責任“甩鍋”。以此次空姐順風車遇害事件為例，它讓原本弱勢的群體更加弱勢。

悖謬的是，在滴滴此次案件中，侵害人和受害人都是最容易冒風險的弱勢群體。

算法將不可避免地讓階層地位更高的人受益，在美國他意味著受教育程度更高的白人男性。在中國，他意味著經(jīng)濟寬裕的直男。新技術的危害則往往被社會中處于弱勢地位的人群所承受，在空姐遇害案爆出后，帖文的評論大部分都是女性、女學生群體。

滴滴順風車的“印象標簽”的糟糕之處在于它損害了“匿名性”。匿名性保證了人們有做事情的能力，但沒有人知道你是誰。我開頭提到的幾個女孩子，她們把頭像資料改成猛男也正是為了在滴滴后臺重新恢復自己的“匿名性”，而不是之前被動的被貼標簽。

在人類學家看來，匿名是人類文明中的一種核心互動，因為沒有它，我們就不會有各種新的合作。我們不會有像維基百科這樣的互聯(lián)網(wǎng)產(chǎn)品，不同類型的社會群體的融合也更加艱難。

但是并不像我們想象的那樣發(fā)達國家就做得更好。以美國為例，關于種族的數(shù)據(jù)是被輸入大數(shù)據(jù)的，也就是關于個人種族身份的“匿名性”根本無法保證，它帶來的結果就是，由于種族和經(jīng)濟背景的數(shù)據(jù)，數(shù)據(jù)背后的人也已經(jīng)系統(tǒng)性的被決定為“高風險個體”了，譬如黑人的身份數(shù)據(jù)往往意味著更高的保釋費、更長的坐監(jiān)時間。這無疑進一步再生產(chǎn)了他們的弱勢地位。

換言之，在現(xiàn)實中，算法和共享經(jīng)濟并沒有給我們一個烏托邦的世界：鼓勵資源分享，社區(qū)和諧相處，打破傳統(tǒng)交通行業(yè)的壟斷。實際上它加強了歧視、擴大了階級差異，甚至導致弱勢群體的處境更加糟糕。

曾經(jīng)有一位著名的分享經(jīng)濟平臺的老總還說互聯(lián)網(wǎng)+將顛覆傳統(tǒng)交通行業(yè)“忽視用戶的體驗”的弊端。可是如今我們看到的卻是，如技術專家熊節(jié)所說，今天的職業(yè)司機的狀況比二十年前還要糟糕，滴滴的壟斷使得它不斷壓低司機的報酬、延長他們的工作時間。而對用戶呢？2016年浙江東陽市女乘客投訴被司機性騷擾后只得到了50元的快車券的補貼。

大數(shù)據(jù)和算法的使用讓社會弱勢群體處于更加危險的境地一個原因是“視野失靈（ horizon deficiency ）” ：除了近在眼前的事情，人們看不到其他風險所在。

共享經(jīng)濟的風險是很多普通民眾意識不到的，而我們媒體人能做的就是提醒公眾讓他們意識到自己進入了“視野失靈”的模式。

關心人的溫度，而不是冷冰冰的數(shù)字

署名“張累累”的作者發(fā)表了《一群年輕女性給滴滴的信：請給我們一個免于恐懼的理由》的信，其中認為滴滴除了應該加強對司機的審核，以及投訴機制的通暢高效外，還應該在車上配反性騷擾小冊子給乘客。

她認為還應當加強對順風車的路線規(guī)范，反饋非正常路線偏離以及非正常停車。滴滴的緊急求助按鈕應當著重標識；在司機接單后應自動發(fā)送給乘客安全提示，告知如何用按鈕求助或報警。滴滴的相互評價系統(tǒng)當中不應當提供與出行內(nèi)容無關選項，如司機進行物化女性等的評價，應當進行降級，降級到一定程度不應接單。

這些都是很好的具體建議。但是更重要的是，我們必須知道這些互聯(lián)網(wǎng)企業(yè)的高層到底是些什么人，必須知道他們的價值是什么？他們接受過怎樣的訓練？

我們?nèi)绾文軌蛴绊懰麄冞\用自己的財富和權力的方式？從某種程度上而言，這些公司的領導的影響力不亞于政治家，而他們?nèi)绾窝孕信e止，如何平衡企業(yè)擴張和社會責任，是一個亟待關注的問題，而公眾卻對此一無所知。

人類學家Tracia Wang 在紐約經(jīng)營一家名為“SUDDEN Compass”的咨詢公司。她是一位擅長“厚數(shù)據(jù)”的科技咨詢者。厚數(shù)據(jù)，顧名思義，比大數(shù)據(jù)更有厚度，更講究數(shù)據(jù)的“質(zhì)”而不是“量”。Tracia 認為僅僅強調(diào)數(shù)據(jù)的量和規(guī)模是不夠的，定性的數(shù)據(jù)、描述性的數(shù)據(jù)，厚數(shù)據(jù)才是未來應該被重視的。

在紐約，她的工作就包括不斷的說服數(shù)據(jù)科學家們可以接受她的觀點，所幸，這些觀點漸漸開始被他們所接受和認可。

在我看來“厚數(shù)據(jù)”也是像滴滴這樣的互聯(lián)網(wǎng)巨頭公司未來應該發(fā)展的方向。以滴滴順風車為例，它對人的分類是傳統(tǒng)的粗暴的，大不了就是年齡、教育水平、性別等等扁平化的信息。根據(jù)披露出的滴滴順風車邏輯，有多少女性用戶，就有多少能被吸引來的男性用戶。現(xiàn)在的大數(shù)據(jù)把人的參數(shù)做的過于簡單：女性是0，男性是1，缺乏對個體復雜性的描述。而如果能夠引入“厚數(shù)據(jù)”，也許滴滴可以促成有相近的音樂品味、價值觀等的司機和乘客的“配對”，讓他們的旅程真正變成一種美好的體驗。

美國勢頭大好的Netflix公司就發(fā)現(xiàn)，一個都市白人男性實際上和一個70歲的居住在鄉(xiāng)村的老奶奶有更多的共同點，說不定他們會欣賞同一個真人秀節(jié)目。

Netflix相信，人們的身份本來就是流動的，她們需要根據(jù)場景的不同而變換身份，而在滴滴的邏輯里，孤男寡女進入了封閉的乘車空間，“就怕你不約，”實在是種強盜邏輯。

這恐怕是因為很多數(shù)據(jù)科學家或產(chǎn)品經(jīng)理是男性，欠缺女性經(jīng)驗，同時視野失靈導致的。他們估計從未嘗過被司機騷擾是什么滋味，如果他們了解過，也許會對他們曾經(jīng)的“約會（pao）”設計后悔不已。他們應該與真正的乘客，特別是那些女性乘客互動，了解她們的需要、把她們當成活生生的人，而不只是被標記為大長腿等這些物化指標的對象。

如果這些大數(shù)據(jù)專家也“視野失靈”了，看不到弱勢司機的視角、乘客的視角，他們的設計就只是為了部分人的，對于“盒子以外”的人就是不友好的。

大部分普通人都不知道關于自己的數(shù)據(jù)是如何被分享和使用的。而每一天，我們的身份都正在被變成談判的工具、被放在各種“數(shù)據(jù)實踐”的風險中。

在互聯(lián)網(wǎng)數(shù)字時代的今天，我們最應該關心的仍然應該是人的溫度，而不是冷冰冰的數(shù)字。普通人自己在多大程度上能決定我們的未來，在多大程度上能有自主權、去做真正想做的事、去真正想去的地方？

“數(shù)據(jù)就是人，人就是數(shù)據(jù)，所以這些東西是可以互換的。” 正如人類學家Tracia所說，數(shù)據(jù)和人有著千絲萬縷的聯(lián)系。我們需要更多的數(shù)據(jù)專家能夠把用戶當成活生生的人，設身處地的為他們的福祉考慮。

[責任編輯：楊凡、費燕妮]

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網(wǎng)官方微博（@齊魯網(wǎng)）提供新聞線索。齊魯網(wǎng)廣告熱線0531-81695052，誠邀合作伙伴。