但現在如果對巴西布拉德斯科銀行（Bradesco bank）的虛擬助理使用這種語(yǔ)言，對方可能會(huì )更堅定地回答：“這些話(huà)不能對我或任何人說(shuō)。”
她還會(huì )語(yǔ)氣更強硬地說(shuō)：“這對你來(lái)說(shuō)可能是個(gè)笑話(huà)，但對我來(lái)說(shuō)，這是暴力。”
去年，布拉德斯科銀行在其人工智能系統上發(fā)現了9.5萬(wàn)條包含虐待或性騷擾的信息。該銀行之后采取了行動(dòng)。
他們的指控團隊整理了這些有冒犯性語(yǔ)言，結果發(fā)現，最溫和的是要求對方裸體。但也有些太過(guò)粗俗的語(yǔ)言，公司不愿透露。
該公司執行董事佩蒂科夫（Glaucimar Peticov）告訴BBC：“言語(yǔ)非常粗魯，我沒(méi)法重復給你聽(tīng)。”
還不清楚為何有人對虛擬助理使用這樣的語(yǔ)言，但佩蒂科夫稱(chēng)，性愛(ài)信息“完全不該出現”，“這毫無(wú)疑問(wèn)，就是一種騷擾“。
為了應對這類(lèi)攻擊，Bia的軟件腳本得到了更新，迫使客戶(hù)用更尊重的語(yǔ)言來(lái)稱(chēng)呼她，才能繼續工作。
佩蒂科夫表示，新的回應“不那么順從和被動(dòng)”，是為了“教育”客戶(hù)，鼓勵他們“反思”性別歧視態(tài)度。
布拉德斯科銀行在電視廣告中宣傳了公司的舉動(dòng)，當機器人改變態(tài)度時(shí)，女演員看起來(lái)更有力量。
其他巴西大型企業(yè)也承諾效仿這一舉動(dòng)，包括化妝品公司、制造業(yè)，以及公用事業(yè)和服務(wù)提供商。
陸，是零售巨頭雜志Luiza的語(yǔ)音助理，她不僅能對口頭冒犯做出堅定回答，而且安裝了“緊急按鈕”，讓女性在遇到家庭暴力時(shí)謹慎地提醒當局。
在真人團隊的幫助下，她成了社交媒體上有影響力的語(yǔ)音助理，擁有數百萬(wàn)粉絲，經(jīng)常和他們談?wù)撔詣e問(wèn)題。這個(gè)團隊負責管理她的社交媒體互動(dòng)。
圖像來(lái)源，MAGALU
零售巨頭雜志Luiza的語(yǔ)音助理陸（Lu）
但不是所有人都認為根據這個(gè)原因調整人工智能系統是有意義的，因為虐待對象不是有感情的真人。
“我們?yōu)槭裁匆垓v一個(gè)非人類(lèi)的語(yǔ)音助手呢？因為這個(gè)問(wèn)題反映了現實(shí)生活，”聯(lián)合國教科文組織巴西分部的社會(huì )科學(xué)協(xié)調員伊恩（Fábio Eon）解釋。
伊恩表示，言語(yǔ)虐待和騷擾的背后是更大的問(wèn)題。
去年，巴西報告了10.5萬(wàn)起針對婦女的暴力案件。由于仍有很多未報告案件，實(shí)際數字可能要高得多。
伊恩認為，現實(shí)世界和數字空間在人類(lèi)行為方式上有所關(guān)聯(lián)。
“從你在網(wǎng)上接受這些行為的那一刻起，這些行為就會(huì )在現實(shí)生活中被復制。”
女性機器人臉與人臉對比
聯(lián)合國教科文組織2019年的一份報告批評了制造數字助理的公司，指責它們強化了性別刻板印象。在多數情況下，這些數字助理都是女性的聲音。
該組織表示，蘋(píng)果的Siri和亞馬遜的Alexa等產(chǎn)品似乎“能夠容忍男性的性挑逗，偶爾也會(huì )受到誘惑”，并稱(chēng)它們“未能鼓勵或樹(shù)立關(guān)于性愛(ài)或贊同性愛(ài)的健康溝通，更不用說(shuō)堅持了”。
這兩家全球科技巨頭都采取了不對抗策略，并隨后對Siri和Alexa做了更新。現在Siri會(huì )簡(jiǎn)單回答關(guān)于性愛(ài)的評論：“我不會(huì )回應這個(gè)問(wèn)題”。
在此之前，她對性侮辱的回答是：“如果我能做到，我會(huì )臉紅的。”
“你能想象這樣的回答在現實(shí)生活中有多離奇嗎？”伊恩問(wèn)道。
伊恩警告稱(chēng)，盡管采取了一些改進(jìn)措施，但對人工智能的偏見(jiàn)依然存在。
他指出，Siri和Alexa（女性名字）可以幫我們做瑣碎的事，比如播放音樂(lè )或打開(kāi)燈，而巴西法院的人工智能系統能篩選成千上萬(wàn)份文件，他的名字叫維克多（Victor，男性名字）。
一些公司正在考慮在系統中使用無(wú)性別聲音，以此來(lái)解決爭議。
但佩蒂科夫表示，人工智能之所以使用女聲，是因為她們的音高和音調變化能為客戶(hù)創(chuàng )造更舒適的環(huán)境。因此，布拉德斯科銀行沒(méi)有計劃取代Bia，或者假裝問(wèn)題不存在，她解釋。
“但是習慣需要改變。這些互動(dòng)行動(dòng)實(shí)際反應了社會(huì )的現實(shí)。現在我們已經(jīng)發(fā)現了這個(gè)問(wèn)題，決心采取行動(dòng)。”
從長(cháng)遠來(lái)看，公司正在考慮當客戶(hù)虐待和性騷擾人類(lèi)虛擬助理時(shí)該怎么做。
2017年，韓國GS加德士（GSCaltex）能源公司發(fā)起運動(dòng)，幫助減少針對呼叫中心工作人員的虐待行為，上了頭條新聞。
在顧客的電話(huà)轉給助理接聽(tīng)之前，顧客會(huì )聽(tīng)到一段員工家人的錄音，這段錄音提醒，電話(huà)那頭的人是有生命、有感情的人。
錄音中有個(gè)男孩說(shuō)：“我的媽媽是我在這個(gè)世界上最?lèi)?ài)的人，她很快就會(huì )幫助你。”另一個(gè)男性的聲音說(shuō)：“我的善良、勤勞的女兒很快就會(huì )上線(xiàn)。”
發(fā)起這項活動(dòng)的營(yíng)銷(xiāo)機構艾得夸互動(dòng)（AdquaInteractive）稱(chēng)，GS加德士的員工后來(lái)報告稱(chēng)，54%的人覺(jué)得壓力減輕了，25%的人說(shuō)他們感到更受尊重了。
專(zhuān)注于數字教育的DQ研究所的首席執行官派克（Yuhyun Park）表示，在互動(dòng)變得更加非人類(lèi)化的世界里，人們越來(lái)越需要意識到這一點(diǎn)。
“公民需要更加文明的行為。當我們不能面對面見(jiàn)面時(shí)，就會(huì )遇到這種騷擾問(wèn)題。即使在人工智能出現之前，人類(lèi)也不是很友好地對待彼此。
“我們是社會(huì )的一部分，即使是與人工智能對話(huà)，也在共同構建整個(gè)社會(huì )體系，如果不文明行事，就會(huì )產(chǎn)生不好的影響。”
