“殺豬盤(pán)”等電信網(wǎng)絡(luò)詐騙層出不窮，網(wǎng)絡(luò)平臺(tái)往往采取算法技術(shù)過(guò)濾不良信息。如果算法鬧出“烏龍”，平臺(tái)需要擔(dān)責(zé)嗎？近日，北京互聯(lián)網(wǎng)法院審結(jié)了首例涉及算法風(fēng)控系統(tǒng)引發(fā)人身權(quán)益侵權(quán)糾紛的案件，認(rèn)定被告某征婚交友平臺(tái)的誤判封號(hào)行為不構(gòu)成對(duì)用戶的侵權(quán)。

李先生是一家金融公司的員工，他在某征婚交友平臺(tái)注冊(cè)賬號(hào)，并提交了真實(shí)照片作為頭像，實(shí)名認(rèn)證了手機(jī)號(hào)。李先生稱(chēng)，自己在正常使用平臺(tái)期間，賬戶被封了，其他網(wǎng)友還收到了提示，稱(chēng)李先生的賬號(hào)“可能存在異?！薄安灰c之發(fā)生金錢(qián)來(lái)往”。李先生認(rèn)為，這種情況導(dǎo)致多位朋友認(rèn)為他是騙子，自己的名譽(yù)遭受損失。他訴至法院稱(chēng)，平臺(tái)實(shí)施算法技術(shù)造成誤判侵犯其名譽(yù)權(quán)，請(qǐng)求判令平臺(tái)公開(kāi)向自己道歉澄清，并賠償損失兩萬(wàn)元。

為何李先生會(huì)被封號(hào)？被告某征婚交友平臺(tái)的運(yùn)營(yíng)者說(shuō)，李先生在與其他用戶聊天過(guò)程中，短期內(nèi)多次被檢測(cè)到出現(xiàn)“金融”“基金”“加好友”等“殺豬盤(pán)”詐騙案件所涉高頻詞匯，因此自動(dòng)觸發(fā)了平臺(tái)風(fēng)控系統(tǒng)的審核規(guī)則。經(jīng)李先生致電客服反映情況，平臺(tái)人工核實(shí)后已對(duì)其賬戶進(jìn)行了解封。平臺(tái)的行為僅是為公共利益依法履行主體監(jiān)管責(zé)任，不存在侵權(quán)行為。

(資料圖片僅供參考)

訴訟過(guò)程中，被告平臺(tái)向法院提交了《關(guān)于涉案軟件風(fēng)控審核系統(tǒng)的情況說(shuō)明》及相關(guān)證據(jù)，說(shuō)明其“預(yù)防性風(fēng)控系統(tǒng)”算法邏輯機(jī)理，盡到了相應(yīng)的算法披露義務(wù)。

北京互聯(lián)網(wǎng)法院審理認(rèn)為，本案爭(zhēng)議焦點(diǎn)為被告采取涉案算法風(fēng)控行為是否存在主觀過(guò)錯(cuò)。根據(jù)涉案“預(yù)防性風(fēng)控系統(tǒng)”針對(duì)的詞匯和行為可見(jiàn)，該系統(tǒng)設(shè)置目的確系為預(yù)防“殺豬盤(pán)”等網(wǎng)絡(luò)詐騙行為，系為實(shí)現(xiàn)法律要求的監(jiān)管義務(wù)和公共利益，具有正當(dāng)性。同時(shí)，根據(jù)已查明的事實(shí)及被告披露算法邏輯過(guò)程，涉案算法設(shè)置系基于特定詞匯和用戶行為的自動(dòng)化反應(yīng)機(jī)制，并不存在對(duì)某類(lèi)用戶的歧視。

法院認(rèn)為，鑒于涉案平臺(tái)為陌生人網(wǎng)絡(luò)交友戀愛(ài)類(lèi)平臺(tái)，在目前社會(huì)背景下加強(qiáng)“殺豬盤(pán)”等網(wǎng)絡(luò)詐騙犯罪的篩查力度，于被告服務(wù)類(lèi)型來(lái)說(shuō)具有一定合理性。此外，被告公司也使用人工審核方式，在聲明的期限內(nèi)核查了誤判，并解除了原告的賬戶封禁和風(fēng)險(xiǎn)提示，盡到了與涉案算法風(fēng)險(xiǎn)相匹配的注意義務(wù)。

綜上，北京互聯(lián)網(wǎng)法院認(rèn)為，被告基于法律監(jiān)管要求和公共利益保護(hù)的目的，設(shè)置“預(yù)防性風(fēng)控系統(tǒng)”算法應(yīng)用，對(duì)用戶行為進(jìn)行中立、無(wú)差別的風(fēng)險(xiǎn)篩查，雖因技術(shù)水平所限造成系統(tǒng)誤判，但盡到了與涉案算法風(fēng)險(xiǎn)相匹配的注意義務(wù)，并采取了合理的預(yù)防侵權(quán)措施，并無(wú)主觀過(guò)錯(cuò)，不構(gòu)成侵權(quán)。

法院最終判決駁回原告李先生的訴訟請(qǐng)求。一審宣判后，雙方均未上訴，該案判決現(xiàn)已生效。

本案主審法官介紹說(shuō)，算法應(yīng)用過(guò)程存在技術(shù)隱蔽性，考察算法行為是否構(gòu)成侵權(quán)的前提需明確涉案算法運(yùn)行的機(jī)制機(jī)理。本案中被告作為涉案軟件的運(yùn)營(yíng)者，對(duì)算法應(yīng)用過(guò)程具有披露義務(wù)，應(yīng)提供證據(jù)證明涉案侵權(quán)行為系算法技術(shù)的實(shí)施所引發(fā)，并對(duì)算法運(yùn)用的具體機(jī)理予以說(shuō)明。

主審法官表示，這起案件首次對(duì)于算法應(yīng)用于“風(fēng)險(xiǎn)控制”領(lǐng)域引發(fā)的侵權(quán)進(jìn)行了審理。我國(guó)相關(guān)法律法規(guī)規(guī)定了網(wǎng)絡(luò)服務(wù)提供者需履行涉電信網(wǎng)絡(luò)詐騙信息監(jiān)測(cè)、識(shí)別和處置的義務(wù)。因此，網(wǎng)絡(luò)服務(wù)提供者通過(guò)技術(shù)手段，強(qiáng)化對(duì)高危風(fēng)險(xiǎn)賬戶的監(jiān)測(cè)和預(yù)防功能，具有算法技術(shù)運(yùn)用的正當(dāng)性。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春認(rèn)為，本案中，法院一方面承認(rèn)了用戶權(quán)益在平臺(tái)經(jīng)濟(jì)中應(yīng)當(dāng)受到充分保護(hù)，另一方面也認(rèn)定了網(wǎng)絡(luò)平臺(tái)依據(jù)法律要求，履行打擊電信詐騙等治理義務(wù)的行為存在合法性基礎(chǔ)。當(dāng)兩者出現(xiàn)一定程度利益沖突時(shí)，本案判決為平臺(tái)確立了合理的注意義務(wù)標(biāo)準(zhǔn)及具體認(rèn)定因素，在個(gè)體用戶權(quán)益保護(hù)和實(shí)現(xiàn)社會(huì)治理功能之間尋求平衡點(diǎn)，為構(gòu)建網(wǎng)絡(luò)空間治理秩序提供法治保障。