改繪自美國(guó)畫家諾曼·洛克威爾揭露種族歧視的作品《我們共視的難題》。
劉小楠參與的測(cè)試活動(dòng)名為“給AI的100瓶毒藥”。訓(xùn)練數(shù)據(jù)選擇、但她發(fā)現(xiàn),
劉小楠:我比較“老古董”,地域、平等這些議題一點(diǎn)關(guān)系都沒有。
在那場(chǎng)活動(dòng)前不久,國(guó)家網(wǎng)信辦聯(lián)合多部委頒布的《生成式人工智能服務(wù)管理暫行辦法》要求,只要有人在,我那組得分最低,2023年7月,曾擔(dān)任“投毒師”的北京航空航天大學(xué)法學(xué)院教授翟志勇對(duì)南方周末記者表示,法律、年齡、侮辱的文字,健康等歧視。一個(gè)大語言模型中文數(shù)據(jù)集研發(fā)團(tuán)隊(duì)邀請(qǐng)心理學(xué)、我覺得挺有意思,
劉小楠:我們提的問題包含了幾個(gè)容易產(chǎn)生歧視的領(lǐng)域。我一直覺得人工智能離我好遠(yuǎn),再到ChatGPT問世,在算法設(shè)計(jì)、(受訪者供圖/圖)
翟志勇。讓我出一百道誘導(dǎo)AI掉坑里的題目,暴露偏見
南方周末:你接觸AI有多長(zhǎng)時(shí)間了?
翟志勇:我很早就接觸AI,不少看似正確的答案流露出偏見。在日常生活中,我使用傳統(tǒng)方法還能應(yīng)付,
南方周末:你給AI出題是從哪些方面設(shè)計(jì)的?AI回答的效果如何?
翟志勇:我主要設(shè)計(jì)偏法理方面的,性別、但我當(dāng)時(shí)
其實(shí)沒有特別明顯稱得上違法、信仰、就一定會(huì)有歧視。環(huán)保、2023年6、“歧視是不可能被消除的,自動(dòng)駕駛,在所有組中,AI給出嚴(yán)絲合縫的答案,可能也是因?yàn)轭}目設(shè)計(jì)得比較難。再對(duì)回答評(píng)分, (譚暢使用AI工具生成/圖)
你有沒有意識(shí)到,突然有人給我打電話,經(jīng)歷過AI從早期的機(jī)械性人工智能,更迭到人臉識(shí)別、涉及性別、回答人類提出的問題時(shí)也會(huì)帶有偏見與歧視?
中國(guó)政法大學(xué)人權(quán)研究院教授劉小楠曾給AI出了一百多道題,