談及最近流行的“養(yǎng)龍蝦”現(xiàn)象,全國人大代表、華中科技大學(xué)校長尤政表示,用戶需要對這種人工智能工具有正確的認(rèn)識,軟件提供商也應(yīng)對可能造成的損害有明確的提示。他認(rèn)為,使用這類工具時,用戶應(yīng)對其結(jié)論的可信度有清晰的認(rèn)識,并對工具可能帶來的問題保持警惕。
尤政指出,安全是人工智能領(lǐng)域必須面對的問題。人工智能本質(zhì)上是一個處理信息并進(jìn)行推測的工具,最終目的是服務(wù)于人?!梆B(yǎng)龍蝦”實(shí)際上是一種智能體,它根據(jù)用戶的指令調(diào)動資源來給出結(jié)論。在這個過程中,可能會訪問一些地方或動用用戶授權(quán)的權(quán)利,甚至做出一些未直接授權(quán)的行為。因此,用戶在使用前需充分了解其潛在風(fēng)險。
作為軟件提供商,應(yīng)像煙盒上的警告一樣,清楚地告知用戶“養(yǎng)龍蝦”可能帶來的負(fù)面影響。不能讓用戶在不知情的情況下使用該工具,導(dǎo)致潛在危害發(fā)生后推卸責(zé)任。此外,還需加強(qiáng)人工智能領(lǐng)域的立法工作,對于不可控或未知結(jié)果的技術(shù),應(yīng)在限定條件下使用,避免為了商業(yè)利益而推薦給公眾試錯。
關(guān)于深圳龍崗出臺的“龍蝦十條”,尤政認(rèn)為,政府在制定相關(guān)政策時應(yīng)當(dāng)承擔(dān)起相應(yīng)的責(zé)任,確保這些規(guī)定能夠在適當(dāng)?shù)姆秶鷥?nèi)實(shí)施。如果是由個人自行使用,則用戶需對自己的行為負(fù)責(zé)。