<p>無論是噴子、種族主義、性別歧視、打醬油，還是普通的騷擾，互聯(lián)網(wǎng)都存在不良行為問題。加州理工學(xué)院和視頻游戲發(fā)行商動視出版公司的研究人員正在合作，將他們的專業(yè)知識結(jié)合起來，解決視頻游戲中的這種行為。</p> <p>&nbsp;</p> <p>由于這種有害行為使互聯(lián)網(wǎng)成為一個令人不快的地方，多年來有許多嘗試來確保人們在網(wǎng)上表現(xiàn)良好。在互聯(lián)網(wǎng)的早期，網(wǎng)站通常依賴于版主(志愿者或工作人員)，他們受過培訓(xùn)，以保持討論和內(nèi)容的文明和適當(dāng)。但隨著互聯(lián)網(wǎng)的持續(xù)發(fā)展，有害行為變得更加極端，版主顯然需要更好的工具。</p> <p>&nbsp;</p> <p>越來越多的網(wǎng)絡(luò)世界正朝著自動審核工具發(fā)展，這些工具可以在不需要人工干預(yù)的情況下識別辱罵性的詞語和行為。現(xiàn)在，來自加州理工學(xué)院的兩名研究人員，一名是人工智能(AI)專家，另一名是政治科學(xué)家，正在與動視(Activision)合作進(jìn)行一項(xiàng)為期兩年的研究項(xiàng)目，旨在創(chuàng)建一種可以檢測在線虐待行為的人工智能，并幫助公司的支持和審核團(tuán)隊(duì)打擊這種行為。</p> <p>&nbsp;</p> <p>這項(xiàng)贊助研究協(xié)議包括布倫大學(xué)計(jì)算和數(shù)學(xué)科學(xué)教授阿尼瑪&middot;阿南德庫馬爾，她訓(xùn)練人工智能駕駛無人機(jī)和研究冠狀病毒;政治和計(jì)算社會科學(xué)教授邁克爾&middot;阿爾瓦雷斯(Michael Alvarez)曾使用機(jī)器學(xué)習(xí)工具研究社交媒體中的政治趨勢;以及動視的數(shù)據(jù)工程師，他們將提供玩家粘性和游戲驅(qū)動數(shù)據(jù)的洞察。</p> <p>&nbsp;</p> <p>阿爾瓦雷斯和阿南德庫馬爾已經(jīng)合作訓(xùn)練人工智能來檢測社交媒體上的惡意言論。他們與《使命召喚》電子游戲團(tuán)隊(duì)的合作項(xiàng)目將允許他們開發(fā)類似的技術(shù)，以潛在地應(yīng)用于游戲領(lǐng)域。</p> <p>&nbsp;</p> <p>阿爾瓦雷斯說:&ldquo;在過去幾年里，我們與阿尼瑪&middot;阿南德庫馬爾的團(tuán)隊(duì)的合作非常富有成效。&rdquo;&ldquo;關(guān)于如何使用大數(shù)據(jù)和深度學(xué)習(xí)來識別有害的對話和行為，我們已經(jīng)學(xué)到了很多。這個新方向，以及我們在動視的同事們，給了我們一個機(jī)會，將我們所學(xué)到的知識應(yīng)用到一個新的重要領(lǐng)域&mdash;&mdash;游戲領(lǐng)域&mdash;&mdash;研究有毒行為。&rdquo;</p> <p>&nbsp;</p> <p>對于Anandkumar來說，這項(xiàng)研究將回答的重要問題是:&ldquo;我們?nèi)绾螌?shí)現(xiàn)透明的、對社會有益的、沒有偏見的人工智能?&rdquo;以及&ldquo;我們?nèi)绾未_保每個人都有一個安全的游戲環(huán)境?&rdquo;</p> <p>&nbsp;</p> <p>她補(bǔ)充說，與動視的合作不僅讓研究人員獲得了人們在在線游戲中如何互動的數(shù)據(jù)，還讓他們獲得了專業(yè)知識。</p> <p>&nbsp;</p> <p>&ldquo;我們想知道玩家是如何互動的。他們使用哪種語言?他們有什么樣的偏見?我們應(yīng)該找什么?這需要領(lǐng)域?qū)I(yè)知識。&rdquo;</p> <p>&nbsp;</p> <p>動視的首席技術(shù)官邁克爾&middot;萬斯(Michael Vance)表示，該公司很高興能與加州理工學(xué)院合作。</p> <p>&nbsp;</p> <p>萬斯說:&ldquo;我們的團(tuán)隊(duì)在打擊破壞性行為方面繼續(xù)取得巨大進(jìn)展，我們也希望在未來的道路上走得更遠(yuǎn)。&ldquo;這次合作將使我們能夠在現(xiàn)有工作的基礎(chǔ)上，探索這一領(lǐng)域的研究前沿。&rdquo;</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p> </blockquote>