中國發展高層論壇2024年年會于3月24日在京召開。在人工智能發展與治理專題研讨會上，清華大學蘇世民書院院長薛瀾表示，人工智能的發展面臨一系列風險需要防範。從人工智能治理的角度來看，有以下五個挑戰。
第一個挑戰是步調不一緻的問題。人工智能的技術發展非常快，但是治理體系的建構相對慢一些。
第二個挑戰是資訊不對稱的問題。多次調研發現，政府和企業雙方都有很多盲區。首先，企業不知道政府規制最關心的問題在哪兒；其次，對技術發展可能會帶來什麼風險，政府不清楚，很多企業也不清楚。
第三個挑戰是從規制的角度來講，在風險規制的過程中成本是不對稱的。比如，人工智能如果被濫用或者誤用的技術成本是相當低的，但是要去防範這種風險其實是非常困難的。防範風險的成本要遠遠高于它有可能造成危害的成本，是以風險治理的成本較高。
第四個挑戰是在全球治理方面。做全球治理的人往往會提到機智複合體的問題，可能針對某一個問題，企業、組織、政府都很關心，都想采取一些措施去解決。專業組織、國際組織、基金會、企業等都對某個問題有一定的治理興趣，甚至他們也有這方面的能力和條件。但是，所有這些組織之間沒有從屬關系，而是互相之間有重疊甚至有沖突的機構，都對某個問題有相關的利益，希望來參與治理，使得全球治理體系的形成有很大的困難。
第五個挑戰是在人工智能領域治理，一定要有美國和中國的合作，但是目前這種地緣政治也會帶來相應的一些問題。
怎麼去解決上述這些問題？薛瀾提出以下五方面建議。
第一，要加強安全和技術。目前，在安全領域的研發是不夠的，今後需要加強研究，尤其是需要加強國際合作。
第二，通過靈活治理的方式解決治理方面的問題。
第三，鼓勵企業的自我規制。外界的規制總是很難解決資訊不對稱的問題，應該提倡建立企業内部自我規制的一些機制。
第四，加強國際治理。在全球治理方面，聯合國剛剛通過了一個協定，并召開了進階别專家的讨論。
第五，解決地緣政治的問題。在人工智能領域，中美雙方一定要加強合作，這樣才能真正解決人類面臨的各種問題。