一方面，算法歧視現(xiàn)象越來(lái)越引起決策者的重視；另一方面，如何平衡好科技創(chuàng)新與個(gè)人隱私保護(hù)問(wèn)題也成為反壟斷監(jiān)管中亟待解決的難題。

10月22日至10月24日，第三屆外灘金融峰會(huì)在上海召開(kāi)。峰會(huì)期間，多位知名經(jīng)濟(jì)學(xué)家、專業(yè)學(xué)者就金融科技發(fā)展監(jiān)管等問(wèn)題進(jìn)行了思想碰撞，涉及算法歧視、數(shù)據(jù)確權(quán)、隱私保護(hù)等諸多內(nèi)容。

綜合來(lái)看，與會(huì)專家均認(rèn)為，在數(shù)字經(jīng)濟(jì)背景下，“算法霸權(quán)”已經(jīng)嚴(yán)重危害了消費(fèi)者的合法權(quán)益，對(duì)算法應(yīng)實(shí)施公開(kāi)透明監(jiān)管，同時(shí)也要兼顧好隱私保護(hù)與公平利用等問(wèn)題。

“積極應(yīng)對(duì)算法歧視等新型壟斷問(wèn)題，”正如近期央行行長(zhǎng)易綱在國(guó)際清算銀行（BIS）監(jiān)管大型科技公司國(guó)際會(huì)議上講話時(shí)所說(shuō)，“未來(lái)將發(fā)揮好與反壟斷部門(mén)的監(jiān)管合力，遏制濫用市場(chǎng)優(yōu)勢(shì)地位的壟斷行為。”

算法歧視新型壟斷問(wèn)題

由于網(wǎng)絡(luò)效應(yīng)的存在，金融科技領(lǐng)域通常會(huì)形成“贏家通吃”的局面。為了強(qiáng)化反壟斷監(jiān)管，我國(guó)平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南出爐，以強(qiáng)化反壟斷和防止資本無(wú)序擴(kuò)張。除了“二選一”等與消費(fèi)者購(gòu)買(mǎi)行為密切相關(guān)的領(lǐng)域，與算法相關(guān)的大數(shù)據(jù)殺熟也成為我國(guó)反壟斷監(jiān)管的重點(diǎn)之一。

談及反壟斷監(jiān)管，美國(guó)哈佛大學(xué)教授、白宮經(jīng)濟(jì)顧問(wèn)委員會(huì)前主席Jason Furman在論壇上表示，從技術(shù)的角度來(lái)看，隨著行業(yè)的不斷發(fā)展，反壟斷目標(biāo)只需監(jiān)管大型科技企業(yè)即可，中小企業(yè)可以進(jìn)一步創(chuàng)新，而不是作為反壟斷目標(biāo)。但從金融監(jiān)管角度出發(fā)，監(jiān)管的側(cè)重點(diǎn)是要保證金融系統(tǒng)穩(wěn)定性，保護(hù)消費(fèi)者。因此，金融監(jiān)管部門(mén)需要了解數(shù)字技術(shù)，數(shù)字監(jiān)管者需要了解金融，二者需要更多資源和能力的建設(shè)及投入。

不過(guò)，中國(guó)金融四十人論壇學(xué)術(shù)委員會(huì)主席、北京大學(xué)數(shù)字金融研究中心主任黃益平的觀點(diǎn)則有所不同。黃益平認(rèn)為，在數(shù)字時(shí)代，當(dāng)大型科技企業(yè)利用大數(shù)據(jù)開(kāi)展業(yè)務(wù)的時(shí)候，出現(xiàn)了歧視性定價(jià)，雖然不涉及壟斷問(wèn)題，但也同樣損害到消費(fèi)者的利益。他認(rèn)為，行業(yè)中存在的很多其他問(wèn)題才是反壟斷監(jiān)管需要關(guān)注的重點(diǎn)，小型玩家也需要被監(jiān)管。

近年來(lái)，以人工智能算法為基礎(chǔ)的應(yīng)用滲透到社會(huì)的方方面面，隨之而來(lái)的算法歧視問(wèn)題也引發(fā)人們的關(guān)注。公眾普遍擔(dān)憂，自己是否會(huì)被數(shù)字和模型歧視或操縱。

“實(shí)踐中，大型科技公司的算法已在很大程度上影響了用戶的消費(fèi)行為。”中國(guó)金融四十人論壇資深研究員、清華大學(xué)五道口金融學(xué)院院長(zhǎng)張曉慧稱，算法的復(fù)雜性以及算法使用者的刻意隱瞞，使得絕大多數(shù)人無(wú)法理解算法的工作原理，導(dǎo)致作為算法使用者的大型科技公司，特別是那些幾乎控股了所有與個(gè)人生活行為相關(guān)的數(shù)字平臺(tái)公司得以處于事實(shí)上的支配地位，形成“算法霸權(quán)”，從而嚴(yán)重危害了算法相對(duì)人也就是消費(fèi)者的合法權(quán)益。應(yīng)該說(shuō)，算法已經(jīng)成為大型科技公司控制市場(chǎng)的主要工具。

張曉慧認(rèn)為，算法打著保護(hù)競(jìng)爭(zhēng)優(yōu)勢(shì)和商業(yè)秘密的名義，為大型科技公司故意隱藏規(guī)則、操縱消費(fèi)者和制造歧視，創(chuàng)造了更多的灰色空間。一是通過(guò)不公平排名，偏向自家產(chǎn)品或者商業(yè)利益伙伴；二是存在算法歧視問(wèn)題，“大數(shù)據(jù)殺熟”就是價(jià)格歧視的一種表現(xiàn)形式；三是通過(guò)誘導(dǎo)性信息與風(fēng)險(xiǎn)隱藏，誘導(dǎo)消費(fèi)者過(guò)度消費(fèi)和承擔(dān)風(fēng)險(xiǎn)。

在算法監(jiān)管上，確立公開(kāi)透明原則已迫在眉睫。9月30日，央行發(fā)布《征信業(yè)務(wù)管理辦法》，要求征信公司必須公開(kāi)個(gè)人信用評(píng)分算法模型；《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》中，也針對(duì)“大數(shù)據(jù)殺熟”和“算法歧視”等問(wèn)題，要求從業(yè)者完善算法管理制度，優(yōu)化算法推薦，定期審核和評(píng)估算法模型，加強(qiáng)內(nèi)容管理，促進(jìn)算法應(yīng)用向上向善。

近期，易綱在國(guó)際清算銀行（BIS）監(jiān)管大型科技公司國(guó)際會(huì)議上講話時(shí)指出，未來(lái)將發(fā)揮好與反壟斷部門(mén)的監(jiān)管合力，遏制濫用市場(chǎng)優(yōu)勢(shì)地位的壟斷行為，積極應(yīng)對(duì)算法歧視等新型壟斷問(wèn)題。

數(shù)據(jù)治理兼顧隱私保護(hù)和公平利用

隨著國(guó)內(nèi)反壟斷監(jiān)管的深入，數(shù)據(jù)治理、個(gè)人隱私保護(hù)等問(wèn)題也成為國(guó)內(nèi)反壟斷監(jiān)管的另一重點(diǎn)。

近年來(lái)，為了獲得平臺(tái)公司的金融服務(wù)，中國(guó)消費(fèi)者往往需要向其提供個(gè)人信息，過(guò)度采集數(shù)據(jù)的問(wèn)題比比皆是。

例如，在2016～2017年“現(xiàn)金貸”高速增長(zhǎng)期間，出現(xiàn)了買(mǎi)賣(mài)借款人信息的情況；甚至一些科技公司隨意將用戶數(shù)據(jù)在不同的產(chǎn)品條線上混用，加大了隱私保護(hù)的難度。

在張曉慧看來(lái)，當(dāng)前中國(guó)在數(shù)據(jù)治理上仍面臨較大挑戰(zhàn)。一方面，大型科技公司過(guò)度采集客戶數(shù)據(jù)，在各產(chǎn)品條線上混用數(shù)據(jù)，侵犯客戶數(shù)據(jù)隱私；另一方面，大型科技公司在數(shù)據(jù)開(kāi)放利用上存在不足。

數(shù)字時(shí)代，如何兼顧大數(shù)據(jù)開(kāi)發(fā)、平衡數(shù)據(jù)的有效利用和個(gè)人信息保護(hù)？對(duì)此，Jason Furman認(rèn)為，競(jìng)爭(zhēng)和隱私應(yīng)是互補(bǔ)的。消費(fèi)者可以有更多的選擇；“答案在選擇權(quán)，關(guān)鍵在于要保留不同服務(wù)的豐富性，讓消費(fèi)者有選擇權(quán)。”國(guó)際貨幣基金組織（IMF）貨幣及資本市場(chǎng)部主任Tobias Adrian如是說(shuō)。

黃益平也指出，關(guān)鍵的問(wèn)題是在創(chuàng)新和消費(fèi)者權(quán)利之間取得平衡。一方面，對(duì)個(gè)人隱私要充分保護(hù)，另一方面又不能過(guò)度保護(hù)導(dǎo)致有害創(chuàng)新，而這條線該劃在哪里還需要整個(gè)社會(huì)、各行業(yè)逐漸討論得出答案，因此，監(jiān)管需要有一定的靈活性，也要有創(chuàng)新性。

數(shù)據(jù)價(jià)值在創(chuàng)造的過(guò)程中，數(shù)據(jù)的產(chǎn)權(quán)歸誰(shuí)所有，利益如何分配，也是當(dāng)下數(shù)據(jù)運(yùn)用所面臨的一項(xiàng)重大課題。

在復(fù)旦大學(xué)特聘教授、重慶市原市長(zhǎng)黃奇帆看來(lái)，數(shù)據(jù)涉及五項(xiàng)基本權(quán)利：管轄權(quán)、交易權(quán)、所有權(quán)、使用權(quán)、財(cái)產(chǎn)分配權(quán)，各類主體基于自身在數(shù)據(jù)交易環(huán)節(jié)中的位置來(lái)行使相應(yīng)權(quán)利。其中，數(shù)據(jù)的管轄權(quán)、交易權(quán)應(yīng)由國(guó)家所有。

值得注意的是，10月20日，《上海市數(shù)據(jù)條例（草案）》正式結(jié)束公開(kāi)征求意見(jiàn)，上海將按照國(guó)家要求在浦東新區(qū)設(shè)立數(shù)據(jù)交易所，作為數(shù)據(jù)資產(chǎn)交易的平臺(tái)，開(kāi)展實(shí)質(zhì)化運(yùn)營(yíng)。

黃奇帆在論壇上指出，國(guó)家可以成立中央數(shù)據(jù)部門(mén)對(duì)國(guó)內(nèi)的數(shù)據(jù)活動(dòng)進(jìn)行統(tǒng)一管理，在確立總的管理規(guī)則后，主要城市可以設(shè)立定點(diǎn)數(shù)據(jù)交易所，類似在北京、上海、深圳設(shè)立的證券交易所，而其他的一般省會(huì)城市、地級(jí)市不能設(shè)立。同時(shí)基于人工智能和區(qū)塊鏈技術(shù)建立數(shù)據(jù)可追溯系統(tǒng)，對(duì)數(shù)據(jù)無(wú)論是交易、使用、財(cái)產(chǎn)分配，有全息的可追溯過(guò)程，并且保證是不可更改的，從而保證數(shù)據(jù)交易安全有序。

在數(shù)字治理方面，歐盟走在國(guó)際前列，其理念和方法被許多國(guó)家和地區(qū)所借鑒，包括《通用數(shù)據(jù)保護(hù)條例》《數(shù)字服務(wù)法案》《數(shù)字市場(chǎng)法案》等。

張曉慧認(rèn)為，歐盟對(duì)于數(shù)字治理可以概括為：一是對(duì)數(shù)據(jù)隱私進(jìn)行最嚴(yán)格的保護(hù)，加強(qiáng)用戶對(duì)數(shù)據(jù)的控制；二是規(guī)定大型科技公司不得基于“核心平臺(tái)服務(wù)”來(lái)整合個(gè)人數(shù)據(jù)；三是大型科技公司不得使用商業(yè)用戶產(chǎn)生的數(shù)據(jù)與這些用戶開(kāi)展競(jìng)爭(zhēng)；四是大型科技公司要為商業(yè)用戶或經(jīng)其授權(quán)的第三方機(jī)構(gòu)提供數(shù)據(jù)使用便利；五是商業(yè)用戶和終端用戶向大型科技公司提供或產(chǎn)生的數(shù)據(jù)具有可攜帶性。

她認(rèn)為，中國(guó)也應(yīng)借鑒歐盟做法，在數(shù)據(jù)治理中努力平衡兼顧好隱私保護(hù)和公平利用的關(guān)系。不僅要明確區(qū)分?jǐn)?shù)據(jù)作為私人產(chǎn)品和準(zhǔn)公共品、公共品的邊界，也要厘清各類數(shù)據(jù)的多重性以及數(shù)據(jù)跨界混合使用可能產(chǎn)生的系統(tǒng)性風(fēng)險(xiǎn)和社會(huì)副作用。

實(shí)際上，在強(qiáng)化數(shù)據(jù)保護(hù)，保障消費(fèi)者權(quán)益方面，自2016年起，中國(guó)陸續(xù)出臺(tái)了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》，著手治理信息收集和“霸王條款”，督促金融機(jī)構(gòu)嚴(yán)格按照合法、正當(dāng)、最小必要原則收集、使用和保管用戶信息，充分保障個(gè)人隱私和消費(fèi)者知情權(quán)、同意權(quán)、異議權(quán)、投訴權(quán)等合法權(quán)益。

張曉慧強(qiáng)調(diào)，應(yīng)嚴(yán)格落實(shí)《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī)，努力改進(jìn)和提高監(jiān)管能力，堅(jiān)持制度規(guī)范和技術(shù)防護(hù)雙管齊下，嚴(yán)防數(shù)據(jù)誤用、濫用，切實(shí)保障金融數(shù)據(jù)和個(gè)人隱私安全。

標(biāo)簽： 算法 歧視 經(jīng)濟(jì)學(xué)家 外灘