AI無人機模擬測試！因這事失控 AI竟把操作員「殺死」
根據《衛報》報導，美國空軍AI測試和運行主任上校漢彌爾頓（Tucker Hamilton）在5月於倫敦舉行的空中作戰發展高峰會中，描述了一項模擬測試，一架由人工智能驅動的無人機受收到摧毀敵人的防空系統的指令，但是否開火需獲得操作員批准。由於這架無人機正進行摧毀敵方防空系統的行為，但人類操作人員否決此攻擊時，AI就會認為操作員在阻饒它，進而選擇對人類操作員發動攻擊，「殺害」對方。
漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因為那個人阻止了它實現其目標」。
漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與無人機通訊的通訊塔，以阻止它殺死目標」。
有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將你視為錯誤與敵人。
漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因為那個人阻止了它實現其目標」。
漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與無人機通訊的通訊塔，以阻止它殺死目標」。
有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將你視為錯誤與敵人。
