人工智能可在元宇宙中構(gòu)建新世界，但也引發(fā)重大的倫理問題

人工智能的飛速發(fā)展，為元宇宙以及增強現(xiàn)實、虛擬現(xiàn)實等主流數(shù)字增強技術(shù)開辟了更多發(fā)展可能。但在這類技術(shù)全面融入日常生活之前，二者融合所衍生的法律與倫理難題亟待解決（https://standards.ieee.org/initiatives/metaverse-standards/）。

如今，多模態(tài)大語言模型僅憑一段文字指令就能生成視頻，將這項技術(shù)應(yīng)用于沉浸式三維虛擬環(huán)境，已然近在眼前。

IEEE高級會員Vaibhav Tupe表示：“生成式人工智能很快或?qū)⒅厮茉鰪姮F(xiàn)實技術(shù)，使其不再只是一種顯示設(shè)備，而是升級為融入現(xiàn)實世界、具備智能交互能力的輔助工具。”

但這些沉浸式、多元化的技術(shù)能力，也催生了諸多棘手難題。依托人工智能打造的虛擬助手與虛擬網(wǎng)紅，可能會引導(dǎo)用戶做出原本不會選擇的決定，倘若這類系統(tǒng)的設(shè)計初衷是刻意游說、而非單純提供信息，這種影響會更為明顯。沉浸式場景還會采集大量高度敏感的個人數(shù)據(jù)，包括用戶視線落點、行為動作、行為反應(yīng)，甚至能夠推算出用戶的情緒狀態(tài)。此外，倘若構(gòu)建這類虛擬場景的人工智能系統(tǒng)本身存在偏見，這些偏見還會進一步影響人們在增強現(xiàn)實、虛擬現(xiàn)實環(huán)境中的形象呈現(xiàn)、外界觀感以及所受到的對待。

IEEE高級會員Shaila Rana表示：必須在這類技術(shù)全面普及之前，搭建完善的法律與倫理規(guī)范體系。

人工智能偏見長期以來都是研發(fā)人員面臨的難題。若使用本身帶有偏見的數(shù)據(jù)訓(xùn)練AI，最終產(chǎn)出的結(jié)果勢必會出現(xiàn)偏差、失去客觀性。

Rana表示：“人工智能沉浸式環(huán)境中，最容易被忽視的風(fēng)險就是偏見被不斷放大。人們閱讀帶有偏見的文字內(nèi)容時，自身與信息之間還存在認(rèn)知隔閡。但置身虛擬現(xiàn)實或增強現(xiàn)實場景中，偏見不再只是影響你的認(rèn)知判斷，更會在高度擬真的環(huán)境里，直接左右你的所見、所聞與切身感受。”

人們在使用人工智能與虛擬現(xiàn)實技術(shù)時，會向各類系統(tǒng)提交海量個人數(shù)據(jù)。

IEEE會員Man Zhang表示：“生成式AI還能進一步分析并利用這些數(shù)據(jù)，進而引導(dǎo)用戶行為，打造極具個性化且?guī)в姓T導(dǎo)性的體驗，由此催生了傳統(tǒng)數(shù)據(jù)保護法規(guī)無法覆蓋的新型隱私風(fēng)險。”

此外，相關(guān)法律體系尚且零散混亂。IEEE高級會員Keeley Crockett指出，頭戴設(shè)備硬件與配套運營軟件往往分屬不同運營主體，各方隱私條款、權(quán)責(zé)義務(wù)各不相同，致使數(shù)據(jù)管理秩序雜亂無章。

最隱蔽的隱患之一是生物特征適配技術(shù)。沉浸式系統(tǒng)中的人工智能，可依據(jù)用戶視線、體態(tài)、心率及情緒狀態(tài)調(diào)整環(huán)境。

IEEE高級會員Eleanor Watson表示：“人工智能構(gòu)建周邊場景時，會在用戶難以察覺的情況下，潛移默化影響其情緒、專注力與決策。這和網(wǎng)頁調(diào)整頁面布局有著本質(zhì)區(qū)別。”

這類情況容易在商場等場景中造成認(rèn)知操控與行為誘導(dǎo)。

IEEE高級會員Ayesha Iqbal補充道：“人工智能能夠根據(jù)用戶細(xì)微反應(yīng)實時調(diào)整環(huán)境，進而實現(xiàn)神經(jīng)定向說服。比如在用戶注意力高度集中時，切換廣告內(nèi)容與虛擬形象。”

她還表示：“現(xiàn)行隱私法規(guī)僅針對可識別個人信息，并未約束這種用于引導(dǎo)行為的實時生理心理推斷技術(shù)。”

人工智能與元宇宙蘊藏著廣闊的數(shù)字發(fā)展前景，同時也要求我們主動開展治理工作。如今搭建完善的倫理準(zhǔn)則體系，才能讓數(shù)字領(lǐng)域依托透明化機制與有效監(jiān)管穩(wěn)步發(fā)展。