“只要它發脾氣，我們手上就會有一個聰明的三歲小孩。”

生命和人工智能科學家維多利亞·克拉科夫納（Victoria Krakovna）編制了一份清單，描述了幾年來機器學習發生的一些令人喫驚和發笑的意外情況。其中一個例子發生在俄羅斯方塊遊戲中，一個機器人被要求“不輸”，於是程序便無限期暫停遊戲以避免失敗。有一個“遺傳算法”本應該將電路配置成振盪器，結果卻製作了一個收音機來接收來自相鄰計算機的信號。在另一項測試中，一個機器人用手臂擊打桌子來移動一個物體。

運用對抗生成網絡進行寫作是非常誘人的，但有一項模擬卻令人喫驚地描寫了一種“懶惰的食人族”。它是這麼寫的：“在生存需要能量但生育不需要能量的情況下，一個物種進化出了一種久坐不動的生活方式，這種生活方式主要是通過交配來產生新的孩子，這些孩子可以被喫掉（或者作爲配偶來產生更多可食用的孩子）。”這樣的“奇想”讓人毛骨悚然又很好笑。

事例雖然不多，但這份清單（目前還在增加中）卻是對機器如何“思考”的迷人探索。顯而易見，這些有趣的非預期行爲都是生成了一種字面上適應指定目標的解決方案，而未能根據人類設計者的意圖解決問題。克拉科夫納指出，這些情況一般發生在目標指定不當的情況下。“只要它發脾氣，我們手上就會有一個聰明的三歲小孩。”她說。

【數字敘事 Lighting】