美國政府擬出臺新規定，要求對使用人工智能的算法進行評估和監管

　　白宮管理和預算辦公室今天發布了一份草案規定，要求聯邦機構評估和持續監測在醫療保健、執法和住房等領域使用的算法，以防止潛在的歧視或其他對人權產生不良影響。一旦生效，這些規定可能會迫使美國政府在AI方面采取改變，例如FBI使用的面部識別技術，該技術因未采取國會要求的措施以保護公民自由而受到批評。新規定將要求政府機構在2024年8月之前評估現有算法，并停止使用任何不符合規定的算法。

　　草案指令稱:“如果益處不真正超過風險，機構就不應使用AI。”但草案備忘錄對涉及國家安全的模型進行了例外，并允許機構有效地對自己發布豁免，如果停止使用AI模型“會對重要機構運作造成不可接受的阻礙”。

　　這份草案規定是在拜登總統簽署行政令兩天后由白宮管理和預算辦公室發布的，該行政令相當于一個全面的計劃，旨在同時增加政府對AI的使用，并試圖防止技術帶來的傷害。保護人們免受AI的傷害是一個重要主題，該行政令的規定包括對大型AI模型和計算集群開發者的報告要求。

　　擬議中的白宮管理和預算辦公室規定將要求將從私營公司購買的算法納入聯邦合同的測試和獨立評估要求之中，該辦公室在其協調總統優先事項的部門的角色中可以這樣做。它們還將要求政府機構評估和監控現有算法以及未來可能獲取的算法對隱私、民主、市場集中和獲得政府服務的負面影響。

　　草案備忘錄要求由與系統開發無直接關系的人員進行算法的測試和評估，并鼓勵對生成AI模型進行外部的“紅隊”測試。它還指示聯邦機構的領導人探索他們如何在不帶來不必要風險的情況下使用生成AI，例如OpenAI的ChatGPT。

　　拜登的AI行政命令要求白宮管理和預算辦公室在接下來的五個月內向聯邦機構提供指導。該辦公室將邀請公眾對草案政策提供意見直至12月5日。

　　OMB管理副主任Jason Miller說:“該框架為聯邦機構提供了一套具有約束力的要求，以便為人工智能的使用制定保障措施，以便我們能夠利用這些好處，使公眾能夠信任聯邦政府提供的服務。備忘錄草案強調了人工智能的某些用途，在這些用途中，該技術可能會損害權利或安全，包括醫療保健、住房和執法——過去算法導致歧視或拒絕服務的所有情況。

　　據OMB稱，聯邦機構目前使用700多種算法，盡管聯邦機構提供的清單并不完整。米勒說，備忘錄草案要求聯邦機構更多地分享他們使用的算法。