01

這兩天，雷慢偶然看到一篇文章，某大型互聯(lián)網(wǎng)信貸平臺聲稱，他們家風(fēng)控系統(tǒng)納入了5000多個變量，來對貸款人進(jìn)行信用評估。對風(fēng)控系統(tǒng)如何工作，這家平臺舉了一些例子，比如：

“一個用戶打開App，注冊時輸入身份證號碼的時間是個變量，輸入自己的號碼和輸入別人的是不一樣的，如果輸入時間特別長，還要修改，有80%可能不是自己的身份證號碼?！?/p>

“一個客戶買手機，明明有優(yōu)惠券，他就是不用，再加上一些其他相對應(yīng)的行為，檢測出來后就要嚴(yán)格審核，正?？蛻粲袃?yōu)惠券就會用，只有騙子才不會用，因為反正也不想還。優(yōu)惠券只是一個單獨的變量，幾個相同行為疊加時，風(fēng)險就會慢慢加大?！?/p>

這兩個例子，都有很大的邏輯漏洞。

和所謂風(fēng)控變量類似，一個人注冊時間的長短，所受影響的變量也很多，他可能是一個老人行動遲緩；他可能注冊時中途做了別的事；他可能一邊扣腳一邊注冊。

有優(yōu)惠券不用，就判定為騙子，也是一個巨大的邏輯錯誤。比如筆者，就不常用優(yōu)惠券，并非不喜歡省錢，而是不常用購物App，平時沒有注意優(yōu)惠券的領(lǐng)取、使用，并且一般時候根本不會意識到優(yōu)惠券的省錢問題。同樣，一個人不使用優(yōu)惠券，也有幾千個變量，他可能是反感優(yōu)惠券，反感的變量有幾千個；他可能是一個電商新手，不知優(yōu)惠券為何物。

最重要的是，注冊時間長、不使用優(yōu)惠券，不必然得出“不是自己身份證、是騙子”的結(jié)論。騙子也不必然不使用優(yōu)惠券。

A是B的非必要不充分條件。

即使像這家平臺所說，這些變量只是其中的1/5000，但只要這些變量得出的是一個確定性判定，比如以80%的比率判定這個人所使用的不是自己身份證、100%判定這個人是騙子。那么，諸多的邏輯錯誤，就會影響整個信貸評估的準(zhǔn)確性，也會影響貸款的價格。

然而，機器學(xué)習(xí)的算法，并不管這些邏輯是否存在漏洞，它們只執(zhí)行人的代碼指令，按照人錯誤的邏輯指令運算，在一通“技術(shù)黑箱”運算后，得出一個貸款的利率價格。

這就是算法的歧視價格。

02

2011年4月的一天，在全球最大的電商網(wǎng)站亞馬遜上，突然出現(xiàn)了一本標(biāo)價2369萬美元的紙質(zhì)書，這本書名為《蒼蠅的成長》，由一個名為彼得·勞倫斯（Peter Lawrence）的博士撰寫。

想購買這本書的一位生物學(xué)家找到了亞馬遜。亞馬遜調(diào)查后發(fā)現(xiàn)，原來是一家第三方賣家使用了電腦算法程序，自動根據(jù)市場供需關(guān)系調(diào)整了售價，而一周前這本書的標(biāo)價還是170萬美元。

在這里，算法程序并不會估算市場合理的價格，而是根據(jù)需求大于供給無限放大追求利潤的價格。它像極了那些囤積居奇的貪婪商人。

被問及Google公司如何進(jìn)行私下操作時，前首席執(zhí)行官埃里克·施密特(Eric Schmidt)曾經(jīng)回答：“Google的政策就是和警戒線打擦邊球。”

過去幾十年，美國民間與政府的博弈過程中，進(jìn)步人士曾試圖要求一些大公司公布其人工智能決策的邏輯與原理，最后都被后者以“商業(yè)保密”借口駁回。

在人工智能決策的黑箱里，這些過程最后變得無可奉告。

在金融領(lǐng)域，人為的“邏輯操縱”，讓技術(shù)黑箱變得可怕。

法學(xué)教授弗蘭克·帕特洛伊(Frank Partnoy)和普利策獎獲得者杰西·艾辛格(Jesse Eisinger)曾于2013年年初共同研究過“美國銀行的內(nèi)幕”，他們在報告中把銀行描述為“掩蓋了巨大風(fēng)險的‘黑箱’，這些風(fēng)險可能會再次擊垮經(jīng)濟(jì)”。

“現(xiàn)在沒有哪家大型金融機構(gòu)的財務(wù)報表能夠提供有價值的風(fēng)險信息?！痹趫蟾嬷校晃粚_基金經(jīng)理人如是說。

金融科技化之后，越來越多的黑箱產(chǎn)生，并未使得金融科技更加透明。

黑箱的種子與土壤到處都是，如黑產(chǎn)軍團(tuán)、數(shù)據(jù)倒賣行為、大數(shù)據(jù)信審、人工智能深度學(xué)習(xí)、機器決策…

金融科技黑箱使得監(jiān)管越來越難。

過去十幾年里，P2P網(wǎng)貸和互聯(lián)網(wǎng)信貸的經(jīng)營者往往津津樂道地拿出他們的大數(shù)據(jù)風(fēng)控系統(tǒng)吹噓一番。

一家借貸平臺在他的大數(shù)據(jù)風(fēng)控的系統(tǒng)中輸入一個人用戶數(shù)以千計的社交數(shù)據(jù)、搜索數(shù)據(jù)、瀏覽數(shù)據(jù)、交易數(shù)據(jù)等，經(jīng)過深度學(xué)習(xí)和決策模型的計算，最終可能將一個人的信用定為不及格，但這其中的具體決策過程是什么，企業(yè)不會告知你。

更甚至于，這個決策過程中出現(xiàn)程序錯誤、算法歧視時，電腦試圖向程序員解釋時，程序員也無法明白。

哥倫比亞大學(xué)的機器人學(xué)家 Hod Lipson曾說：“這就像是向一條狗解釋莎士比亞是誰?！?/p>

這意味著，大的互聯(lián)網(wǎng)信貸平臺津津樂道的精準(zhǔn)營銷獲客與大數(shù)據(jù)風(fēng)控定價，都在制造一個個黑箱。

03

互聯(lián)網(wǎng)信貸、大數(shù)據(jù)風(fēng)控都有黑箱化的現(xiàn)象。

《從業(yè)經(jīng)歷和教育背景是否能提高借貸成功率？——來自P2P平臺的經(jīng)驗證據(jù)》一文證實了學(xué)歷在P2P借貸中的正相關(guān)因素，它指出，教育程度在1%的顯著水平上與借貸成功率呈正相關(guān)關(guān)系。此外，性別、領(lǐng)域?qū)杩钅芊癯晒Ξa(chǎn)生影響。

中國央行研究局局長徐忠曾表示，如果將客戶個人信息用于信用評估時，可能影響信貸的公平性，有一些指標(biāo)比如性別、地域、職業(yè)等可能對客戶的還款能力有解釋力，但根據(jù)這些指標(biāo)進(jìn)行放貸，會涉及到對某些人群的歧視。

但在人工智能的決策黑箱里，這些都看不見。

在人工智能的深度學(xué)習(xí)與決策黑箱里，有一個現(xiàn)象值得說明，比如互聯(lián)網(wǎng)信貸，人工智能深度學(xué)習(xí)后的決策系統(tǒng)對有過違約記錄的用戶往往收取更高的利息，在這一過程中，違約者曾經(jīng)未能及時還款的原因卻是未知的，可能他拒絕支付，也可能是因為家里出了緊急事故，但人工智能決策的歧視性已經(jīng)出來。

在現(xiàn)金貸平臺那里，大數(shù)據(jù)信審的黑箱歧視性給予借款人過高的利率定價，往往容易導(dǎo)致借款人違約，而違約后的歧視性利率定價，可能再次導(dǎo)致借款人違約，造成惡性循環(huán)。

一旦基于人工智能決策對身背污點者的歧視性信審體系成型，就會演變成進(jìn)行壓迫的工具，而受壓迫者卻絲毫沒有還擊之力。

黑箱金融造成的一個后果是，互聯(lián)網(wǎng)理財資產(chǎn)負(fù)債表會越來越不透明并復(fù)雜化，要維系這個黑箱金融持續(xù)下去，就要犧牲擁有現(xiàn)實資金的投資者。

過去幾年里，死于、受害于P2P網(wǎng)貸資金池、其他互聯(lián)網(wǎng)理財?shù)钠脚_和投資人就是這個例子。

面對黑箱， 即使機構(gòu)告訴用戶信息收集者會如何使用這些數(shù)據(jù)，只要他們同意，隱私也不一定能得到保護(hù)。

帕斯奎爾在《黑箱社會：控制金錢和信息的法則》里的大體主張是：放棄知情同意這種形式上的做法，去嚴(yán)格監(jiān)管實際使用這些數(shù)據(jù)的企業(yè)和政府機構(gòu)。

2018年，歐盟發(fā)布GDPR，它了不起的地方在于它確立了一個原則：即無視利益集團(tuán)、犧牲科技革新的速度，將科技進(jìn)步控制在可理解的天花板里，而非放任在失控的黑箱中。

GDPR強化對自然人數(shù)據(jù)的保護(hù)，它將個人敏感數(shù)據(jù)排除在人工智能的自動化決定之外。

一百年前，路易斯·布蘭戴斯(Louis Brandeis)曾經(jīng)發(fā)表言論“陽光是最好的殺毒劑”。

盡管來自美國的批評聲音認(rèn)為，GDPR對歐洲人工智能的開發(fā)和使用產(chǎn)生負(fù)面影響，帶來高昂的創(chuàng)新和生產(chǎn)成本，并將使歐盟企業(yè)與北美和亞洲等競爭對手相比處于劣勢地位，且對保護(hù)消費者沒有多大作用。

令人恐懼的是，在人工智能 大數(shù)據(jù)時代，“知情”具有破解“黑箱”的優(yōu)勢，但“保密”卻有相對“知情”更大的優(yōu)勢。

“商業(yè)保密”成為企業(yè)維持黑箱決策的借口。

在金融黑箱的失控下，對算法的監(jiān)管必將抬上桌面，厘清算法的邏輯、科技的倫理，打擊基于數(shù)據(jù)和算法閉環(huán)所塑造的貸款權(quán)威，都將是一個不得不面對的問題。

因為正在為金融黑箱埋單的，就是你我。

奧立包裝專業(yè)生產(chǎn)銷售昌江縣塑料滑片,塑料滑托板,滑托板,紙滑托板,紙滑托.昌江縣塑料滑片板承重,昌江縣塑料滑片塑的生產(chǎn)技術(shù),昌江縣塑料滑片工藝,昌江縣塑料滑片生產(chǎn)廠家,昌江縣塑料滑片設(shè)備,昌江縣塑料滑片使用過程有什么問題,昌江縣塑料滑片怎么生產(chǎn),昌江縣塑料滑片怎么使用,昌江縣塑料滑片生產(chǎn)設(shè)備,昌江縣塑料滑片廠家直銷,昌江縣塑料滑片的正確使用方法,昌江縣塑料滑片供應(yīng)商,昌江縣塑料滑片價格,昌江縣塑料滑片哪個廠家好,昌江縣塑料滑片生產(chǎn)過程,昌江縣塑料滑片使用教程,昌江縣塑料滑片有哪些,昌江縣塑料滑片廠家,昌江縣塑料滑片批發(fā)廠家,昌江縣塑料滑片正確使用方法,昌江縣塑料滑片銷售,昌江縣塑料滑片價格表圖片,昌江縣塑料滑片價格一覽表,昌江縣塑料滑片批發(fā)價格,昌江縣塑料滑片,昌江縣塑料滑片使用視頻,昌江縣塑料滑片什么材質(zhì)

,奧立包裝專業(yè)生產(chǎn)和銷售充氣袋緩沖袋,牛皮紙?zhí)畛錃獯?集裝箱充氣袋,牛皮紙充氣袋,集裝箱填充氣袋,集裝箱充氣袋工廠,集裝箱充氣袋廠家,紙滑托,紙滑托板,紙滑托盤,滑片托盤,滑托板,滑托盤,塑膠滑托板,塑料滑托板,塑料滑托盤,防滑紙,托盤防滑紙,物流運輸防滑紙,碼垛防滑紙,紙滑拖,紙滑片,紙托板,集裝箱減震氣囊,集裝箱緩沖填充氣袋,集裝箱緩沖防撞充氣袋,集裝箱緩沖充氣袋,集裝箱充氣袋填充袋,集裝箱填充氣囊,集裝箱氣囊,集裝箱氣袋,貨柜氣囊袋,貨柜緩沖充氣袋,貨柜充氣袋,貨柜保護(hù)氣囊,pp充氣袋,產(chǎn)品質(zhì)量好價格優(yōu)