近日，歐盟委員會(EC)任命的人工智能高級專家小組(AI HLEG)發布了AI開發和使用的道德草案—可信賴AI的道德準則草案(Draft Ethics Guidelines for Trustworthy AI)，內容長達 37 頁，提出可信賴AI應具備兩大要素，以及AI不可為的基本原則。

可信賴 AI 的兩大要素

AI HLEG 表示，AI無疑是這個時代最具變革性的力量之一，必將改變社會結構，我們必須確保最大化AI的優勢，同時降低風險，因此需要以人為本的人工智能方法，AI的開發和使用不應被視為一種手段，應視為增加人類福祉的目標。“可信賴的AI”(Trustworthy AI)將成為人類的北極星。

歐盟AI道德準則草案指出，可信賴的AI有兩個組成要素：一、應尊重基本權利，適用法規、核心原則和價值觀，以確保“道德目的”(ethical purpose)，二、兼具技術魯棒性(robust)和可靠性，因為即使有良好的意圖，缺乏技術掌握也會造成無意的傷害。另外，AI技術必須足夠穩健及強大，以對抗攻擊，以及如果AI出現問題，應該要有“應急計劃”(fall-back plan)，例如在AI系統失敗了，必須要求交還由人類接手。

另外，可信賴AI的不可為，包括不應以任何方式傷害人類;AI不應限制人的自由，換句話說，人們不應該被AI驅動的機器征服或強迫;AI應該公平使用，不得歧視或誣蔑;AI應透明地運作，也就是說，人類需要知道AI正在開發的目的，以及如何使用它;AI應該只為個人和整個社會的福祉而發展

草案也提出了框架，第一章闡述AI必須遵守的基本權利和價值觀，以確保AI符合道德目的。第二章則是實現可信賴AI的指導方針，同時兼顧道德目的和技術穩健性，并列出可信賴AI的要求，包括技術和非技術方法。第三章則提供了具體但非窮舉的可信賴 AI評估表。