關(guān)于算法歧視，目前最廣為人知的表現(xiàn)形式為“大數(shù)據(jù)殺熟”。國務(wù)院反壟斷委員會(huì)將“大數(shù)據(jù)殺熟”界定為“社會(huì)公眾對(duì)互聯(lián)網(wǎng)平臺(tái)利用大數(shù)據(jù)和算法對(duì)用戶進(jìn)行‘畫像’分析，從而收取不同價(jià)格等行為的概括性說法?！盵3]

參考上述界定，算法歧視可理解為平臺(tái)等在為用戶提供‘量身定制’的商品、服務(wù)時(shí)，基于其所收集的用戶數(shù)據(jù)（大數(shù)據(jù)），利用算法技術(shù)對(duì)用戶進(jìn)行“畫像”分析,并基于該“畫像”結(jié)果有針對(duì)性地對(duì)不同用戶實(shí)施差別待遇或歧視待遇，其中包括價(jià)格歧視或交易條件歧視、身份或性別歧視、就業(yè)歧視、教育歧視、信貸歧視等。

關(guān)于平臺(tái)實(shí)施算法歧視的具體表現(xiàn)形式，結(jié)合《國務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》（國反壟發(fā)〔2021〕1號(hào)，以下簡(jiǎn)稱“平臺(tái)反壟斷指南”）第十七條，具體包括：（一）基于大數(shù)據(jù)和算法，根據(jù)交易相對(duì)人的支付能力、消費(fèi)偏好、使用習(xí)慣等，實(shí)行差異性交易價(jià)格或者其他交易條件；（二）實(shí)行差異性標(biāo)準(zhǔn)、規(guī)則、算法；（三）實(shí)行差異性付款條件和交易方式等。

算法歧視的產(chǎn)生與互聯(lián)網(wǎng)技術(shù)的興起有著直接關(guān)系。特別是隨著平臺(tái)經(jīng)濟(jì)、數(shù)字經(jīng)濟(jì)的到來，以算法為代表的人工智能與大數(shù)據(jù)相結(jié)合的自動(dòng)化決策技術(shù)在各個(gè)領(lǐng)域得到廣泛使用，算法日益滲透到我們生活的方方面面。平臺(tái)廣泛收集各種個(gè)人信息，根據(jù)消費(fèi)者過去對(duì)特定商品的瀏覽時(shí)間、關(guān)鍵字的使用、搜索頻率及購物歷史等“足跡”、利用算法準(zhǔn)確預(yù)測(cè)消費(fèi)者的價(jià)格預(yù)期與興趣偏好，為不同消費(fèi)者推薦不同商品、確定不同價(jià)格，從而提升個(gè)性化數(shù)字購物體驗(yàn)、節(jié)省了選購時(shí)間。 

同時(shí)，對(duì)于平臺(tái)等經(jīng)營者而言，算法定價(jià)也具有相當(dāng)?shù)膬?yōu)勢(shì)，不僅大幅降低了復(fù)雜定價(jià)、變更價(jià)格的成本，而且顯著提高了定價(jià)決策的質(zhì)量，實(shí)現(xiàn)商業(yè)利益的最大化。如果沒有算法技術(shù)，經(jīng)營者往往無從判斷買家的支付意愿和心理預(yù)期，而借助大數(shù)據(jù)、算法技術(shù)，經(jīng)營者便可通過海量數(shù)據(jù)分析了解客戶具體需求和預(yù)期，針對(duì)性地為客戶提出目標(biāo)商品與目標(biāo)定價(jià)方案，應(yīng)客戶需求變化優(yōu)化定價(jià)策略，實(shí)施動(dòng)態(tài)價(jià)格管理，最終促成交易并將定價(jià)成本降至最低。

正是由于算法具有上述優(yōu)勢(shì)，導(dǎo)致其在各個(gè)領(lǐng)域的應(yīng)用日益擴(kuò)大。但隨著大數(shù)據(jù)、人工智能、算法的結(jié)合，其在產(chǎn)生積極作用的同時(shí)，也正在改變著許多市場(chǎng)和行業(yè)的競(jìng)爭(zhēng)格局，引發(fā)了價(jià)格歧視等各種問題。

算法歧視的產(chǎn)生、發(fā)展有其自身的原因和背景。首先，算法具有預(yù)設(shè)的價(jià)值取向，算法無法完全擯棄設(shè)計(jì)者自身的價(jià)值取向、意圖或者局限，難以完全實(shí)現(xiàn)中立、客觀。其次，作為算法計(jì)算基礎(chǔ)的“數(shù)據(jù)”也可能存在瑕疵，這會(huì)從根本上影響算法的計(jì)算結(jié)果。最后，技術(shù)本身的發(fā)展也具有不可預(yù)期性，特別是隨著深度學(xué)習(xí)技術(shù)的發(fā)展，從輸入數(shù)據(jù)到輸出結(jié)果的全過程都可能形成外界無法獲知的“算法黑箱”，這可能也會(huì)加劇算法歧視等問題。

隨著利用算法的自動(dòng)化決策在金融信貸、投保、招聘篩選、公共服務(wù)等越來越多的場(chǎng)景中得到運(yùn)用，如果對(duì)算法歧視等問題予以放任，除了可能對(duì)消費(fèi)者的知情權(quán)、選擇權(quán)和公平交易權(quán)造成侵害外，還可能導(dǎo)致并加劇其他經(jīng)濟(jì)、社會(huì)問題，引發(fā)社會(huì)結(jié)構(gòu)固化、資源流動(dòng)受阻、加劇社會(huì)不公等。

因此，如何在充分利用算法自動(dòng)化決策積極作用的同時(shí)，降低或消除算法歧視等消極作用，是現(xiàn)今各國加強(qiáng)算法規(guī)制所面臨的共同背景和挑戰(zhàn)。

我國對(duì)算法歧視的規(guī)制體系，總體而言，可分為國家戰(zhàn)略規(guī)劃、相關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)等三個(gè)層次。

關(guān)于國家戰(zhàn)略規(guī)劃，如2017年發(fā)布的《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》明確提出“制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”、“建立健全公開透明的人工智能監(jiān)管體系，實(shí)行設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實(shí)現(xiàn)對(duì)人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管。促進(jìn)人工智能行業(yè)和企業(yè)自律，切實(shí)加強(qiáng)管理，加大對(duì)數(shù)據(jù)濫用、侵犯?jìng)€(gè)人隱私、違背道德倫理等行為的懲戒力度?！贝送?，國家網(wǎng)信辦等九部門最新發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（國信辦發(fā)文〔2021〕7號(hào)）進(jìn)一步提出，利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

在法律法規(guī)層面，除《反壟斷法》相關(guān)規(guī)定外，《電子商務(wù)法》、《個(gè)人信息保護(hù)法》等多部法規(guī)都對(duì)算法規(guī)制作出規(guī)定，具體如下表所示：

除了上述規(guī)定外，我國還頒布了大量的實(shí)施細(xì)則、政策規(guī)定。2019年12月15日發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第十二條明確要求，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)采用個(gè)性化算法推薦技術(shù)推送信息的，應(yīng)當(dāng)設(shè)置符合法律要求的推薦模型，建立健全人工干預(yù)和用戶自主選擇機(jī)制等。2020年8月20日發(fā)布的《在線旅游經(jīng)營服務(wù)管理暫行規(guī)定》第十五條明確規(guī)定，在線旅游經(jīng)營者不得濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費(fèi)記錄、旅游偏好等設(shè)置不公平的交易條件，侵犯旅游者的合法權(quán)益。

在技術(shù)標(biāo)準(zhǔn)體系層面，我國目前已發(fā)布《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》、個(gè)人信息及信息技術(shù)安全等一系列國家標(biāo)準(zhǔn)體系及認(rèn)證監(jiān)管體系。以個(gè)人信息為例，國家標(biāo)準(zhǔn)《GB/T 35273—2020信息安全技術(shù) 個(gè)人信息安全規(guī)范》對(duì)個(gè)人信息、用戶畫像使用等作出明確限制。按其規(guī)定，個(gè)人信息控制者在業(yè)務(wù)運(yùn)營或?qū)ν鈽I(yè)務(wù)合作中使用用戶畫像，不應(yīng)侵害公民、法人和其他組織的合法權(quán)益……除為實(shí)現(xiàn)個(gè)人信息主體授權(quán)同意的使用目的所必需外，使用個(gè)人信息時(shí)應(yīng)消除明確身份指向性，避免精確定位到特定個(gè)人。例如，為準(zhǔn)確評(píng)價(jià)個(gè)人信用狀況，可使用直接用戶畫像，而用于推送商業(yè)廣告目的時(shí)，則宜使用間接用戶畫像。

總體而言，由于算法技術(shù)仍在不斷發(fā)展，因此，相關(guān)法律規(guī)定也處在動(dòng)態(tài)的變化之中，仍需持續(xù)關(guān)注。下文，我們將主要從反壟斷法角度就我國算法歧視相關(guān)規(guī)制予以說明。

目前，我國關(guān)于算法歧視反壟斷規(guī)制最具體的規(guī)定為平臺(tái)反壟斷指南第十七條。該條規(guī)定專門就平臺(tái)利用自動(dòng)化決策機(jī)制實(shí)施差別待遇作出規(guī)定，并列明了具體的表現(xiàn)形式。

按照平臺(tái)反壟斷指南的規(guī)定，具有市場(chǎng)支配地位的平臺(tái)經(jīng)濟(jì)領(lǐng)域經(jīng)營者通過大數(shù)據(jù)和算法對(duì)交易條件相同的交易相對(duì)人實(shí)行差別待遇，如差異性定價(jià)或其他交易條件、實(shí)行差異性標(biāo)準(zhǔn)、規(guī)則、算法或?qū)嵭胁町愋愿犊顥l件和交易方式，可能屬于濫用市場(chǎng)支配地位、排除和限制競(jìng)爭(zhēng)的行為，并受到反壟斷法的規(guī)制。但并非所有的差異性定價(jià)、差別待遇均屬于濫用市場(chǎng)支配地位的違法活動(dòng)。在下列情形下，平臺(tái)經(jīng)濟(jì)領(lǐng)域經(jīng)營者實(shí)施差別待遇行為可能具有一定的正當(dāng)性：根據(jù)交易相對(duì)人實(shí)際需求且符合正當(dāng)?shù)慕灰琢?xí)慣和行業(yè)慣例，實(shí)行不同交易條件；針對(duì)新用戶在合理期限內(nèi)開展的優(yōu)惠活動(dòng)；基于平臺(tái)公平、合理、無歧視的規(guī)則實(shí)施的隨機(jī)性交易；能夠證明行為具有正當(dāng)性的其他理由。

結(jié)合上述規(guī)定來看，合法、正當(dāng)?shù)乩盟惴ㄟM(jìn)行用戶畫像、自動(dòng)化決策并區(qū)別對(duì)待仍然為法律所允許、鼓勵(lì)。但是，超過合法、正當(dāng)?shù)姆秶?，則可能會(huì)受到反壟斷法的規(guī)制。

截止目前，我國反壟斷執(zhí)法機(jī)構(gòu)已對(duì)多起涉及網(wǎng)絡(luò)平臺(tái)的濫用市場(chǎng)支配地位案件進(jìn)行了查處，比如在最近國家市場(chǎng)監(jiān)管總局查處的阿里巴巴案、美團(tuán)案中，都涉及利用算法、大數(shù)據(jù)及技術(shù)優(yōu)勢(shì)實(shí)施濫用市場(chǎng)支配地位的行為。

同時(shí)，在上述案件中，反壟斷執(zhí)法機(jī)構(gòu)除作出相應(yīng)的處罰決定外，還發(fā)布了《行政指導(dǎo)書》要求企業(yè)整改，其中特別要求：“不得利用技術(shù)手段、平臺(tái)規(guī)則和數(shù)據(jù)、算法等，實(shí)施壟斷協(xié)議和濫用市場(chǎng)支配地位行為，排除、限制市場(chǎng)競(jìng)爭(zhēng)。”“依法為消費(fèi)者提供全面、真實(shí)、準(zhǔn)確、及時(shí)的交易信息，不得違法收集個(gè)人信息和違法實(shí)施算法推薦，依法保護(hù)消費(fèi)者個(gè)人信息和隱私，維護(hù)消費(fèi)者利益。”

總體而言，對(duì)于網(wǎng)絡(luò)平臺(tái)經(jīng)濟(jì)領(lǐng)域算法歧視等濫用市場(chǎng)支配地位的查處，和其他類型的濫用市場(chǎng)支配地位一樣，也遵循大體相同的規(guī)制思路，即界定相關(guān)市場(chǎng)并確定當(dāng)事人具有市場(chǎng)支配地位，然后再分析是否存在市場(chǎng)濫用行為以及是否存在正當(dāng)理由等抗辯事由。

在大數(shù)據(jù)和算法時(shí)代，濫用市場(chǎng)支配地位實(shí)施差別待遇行為的形式愈發(fā)多樣、手段愈發(fā)隱蔽，導(dǎo)致今后對(duì)其的規(guī)制需要更多地考慮算法規(guī)則、自動(dòng)化決策過程等技術(shù)性問題，這也加大了反壟斷執(zhí)法機(jī)構(gòu)的查處難度。但這些問題并不會(huì)從根本上降低相關(guān)違法違規(guī)行為被查處、處罰的風(fēng)險(xiǎn)。

相反，考慮網(wǎng)絡(luò)平臺(tái)算法歧視對(duì)市場(chǎng)競(jìng)爭(zhēng)的重大危害，反壟斷執(zhí)法機(jī)構(gòu)日益關(guān)注這一領(lǐng)域的壟斷行為。平臺(tái)反壟斷指南的頒布以及我國《反壟斷法（征求意見稿）》都體現(xiàn)了這一點(diǎn)。因此，通過建立反壟斷合規(guī)制度、確保算法合規(guī)，有助于平臺(tái)企業(yè)在日常經(jīng)營中預(yù)防、減少壟斷行為，最大程度降低壟斷法律風(fēng)險(xiǎn)和成本。                                         

對(duì)于算法合規(guī)的原則和方法，國家網(wǎng)信辦于今年8月27日發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，對(duì)應(yīng)用算法推薦技術(shù)[5]提供互聯(lián)網(wǎng)信息服務(wù)的基本原則、基本管理制度作了較為全面而系統(tǒng)的規(guī)定。這也可以作為企業(yè)建立算法合規(guī)的一個(gè)重要參考，現(xiàn)將其主要內(nèi)容整理如下：

當(dāng)然，上述互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》并非最終發(fā)布的正式規(guī)定，對(duì)其后續(xù)立法動(dòng)態(tài)還需關(guān)注。