系統(tǒng)自動自主性一直都在不斷演進,從而能去做人類不能做或應(yīng)該盡量避免去做的工作,而且它們能比人類做得更好。雖然系統(tǒng)的自動自主性還在提升,但其設(shè)計和開發(fā)確實遇到了特殊的挑戰(zhàn)。自動自主系統(tǒng)組件應(yīng)當(dāng)有能力在人力比較難以掌控的環(huán)境中運行,例如礦井之下、火災(zāi)現(xiàn)場等。 在執(zhí)行任務(wù)過程中,人的行為和自動自主系統(tǒng)的行為之間的界限可能會不時而且反復(fù)地發(fā)生變化。因此,這些系統(tǒng)可能需要在人和自主組件之間以及不同自主組件之