|
| 圖片來源：英國《自然》網站（圖片來源：科技日報） |
中評社北京1月29日電／據科技日報報導，人工智能（AI）技術正以前所未有的速度發展，生成式AI憑借其驚人的創造力，不斷刷新人們的認知。然而，即便是看似“聰明絕頂”的AI，也難逃“幻覺”的困擾。這裡的“幻覺”，指的是AI生成看似合理但實際不準確或虛假的信息。
英國《自然》雜誌網站在1月22日的報導中指出，AI“幻覺”可能會引發嚴重後果，科學家正各出奇招，力求降低其發生率。這些措施包括增加事實核查、對AI進行“腦部掃描”等，以促進AI的健康、高效發展。
主因是數據模糊
各種生成式AI，包括由大語言模型驅動的聊天機器人，常常會編造信息。它們有時會模糊事實與虛構，在看似真實的陳述中夾雜錯誤信息。這既是其創造力的體現，也是其不足之處。
美國佐治亞理工學院理論計算機科學家桑托什·威姆帕拉解釋稱，大語言模型的設計原理並非輸出準確事實，而是通過模式識別生成答案。其內部複雜的運行機制迄今仍像一個“黑匣子”，人們難以洞悉其推理過程。
美國加州Vectara公司旨在減少生成式AI的“幻覺”。其聯合創始人阿姆爾·阿瓦達拉表示，在訓練過程中，這些模型會壓縮數萬億個單詞間的關係，隨後通過一個龐大的網絡模型重新展開這些信息。儘管這些模型能夠重構出接近98%的訓練內容，但剩下2%的內容卻會讓其“誤入歧途”，生成不準確或虛假信息。
導致AI出現“幻覺”的原因多種多樣，其中訓練數據中的模糊性和錯誤是常見因素。也有人認為，即使訓練數據準確無誤，AI也有可能產生“幻覺”。這種現象與某一事實的稀缺程度密切相關。因此，即使經過人類反饋調整過的聊天機器人，也無法完全避免出錯。
多領域面臨考驗
AI的“幻覺”可能會給人們的工作和生活帶來較大影響。 |
