Discuz! Board

標題: 結果的非唯一性儘管神經網路必須根 [打印本頁]

作者: sohanuzzaman566 時間: 2025-1-2 13:26
標題: 結果的非唯一性儘管神經網路必須根
據許多範例生成新內容，但有時機器人可能只是簡單地產生稍加修改的圖像來用於訓練它。有了這樣的幻覺，使用者的個人資料將能夠被未經授權的人取得。

造成此錯誤的可能原因是訓練資料中某些影像的重複。

神經網路不了解人體解剖學
通常，在不同神經網路產生的圖片中，會出現多餘或傾斜的手指、多餘的手臂、腿或缺失的部分，牙齒、舌頭和眼睛都有奇怪的形狀。

對於手指更像動物爪子的神經元來說尤其困難。神經網路阿根廷數據經常在數字上犯錯。這是因為她處理人的圖像並從不同的角度觀察它們，但不知道如何在解剖學上正確地放置細節（手指、眼睛、牙齒等），這就是為什麼獲得這樣的圖像的原因。

神經網路幻覺的例子
當產生幻覺時，神經網路可以產生一個手上有三個手指的人

神經網路生成失敗的範例
由幾張用戶照片產生的圖像導致奇怪的眼睛

從神經網路產生不成功的手牌的範例
乍一看這張照片一切都很好，但看看手

從神經網路生成騎士失敗的例子
在這裡，神經網路根據騎士的要求繪製了沒有眼睛、沒有足夠手臂、有的甚至沒有腳的騎士

牙齒怪異的一代人
有時，神經網路生成的圖片看起來令人毛骨悚然。例如，因為這樣的磨牙，就像怪物的牙齒一樣

神經網路快要瘋了
美國研究人員發現，一些神經網路（如ChatGPT、Midjourney）在經歷五個訓練週期後就開始產生強烈的幻覺。甚至有一個術語「模型自噬障礙」(MAD)，即每次新的重複訓練週期，表現都會惡化。

有時神經網路變得不可預測。例如，當被要求將文字翻譯成法語時，ChatGPT 會出現幻覺：首先，它執行命令。

然後她完成了文本，儘管她沒有被要求這樣做。

神經網路繼續文本而不是翻譯
神經網路繼續要求「將文章翻譯成法語」中的文本，而不是翻譯它

Snapchat 的 MY AI 聊天機器人被發現存在未經授權的行為，該機器人曾在其故事中發布了一張難以理解的照片。用戶被這種行為嚇壞了，甚至開始刪除該應用程式。有趣的是，最初我的人工智慧無法根據其功能創建故事。這就是機器發生如此小規模起義的原因。

歡迎光臨 Discuz! Board (http://49.win1.in/)