2024年2月🧓，OpenAI發布的文字轉視頻模型Sora在智能影像生成領域取得突破🕖，被視為具備“世界模擬”能力，Sora在展示其應用潛力的同時，進一步提升了真實與虛假界限辨別的難度🔩。3月13日，歐盟議會正式通過了《人工智能法案》🧑🏽‍🦲，標誌著全球人工智能領域監管邁入全新時代，也說明歐盟在對這項顛覆性技術的監管方面走在了世界前列。隨著生成式人工智能的快速發展，科技倫理風險和知識產權保護問題也日益凸顯🧑🏽‍🚒💁🏼‍♀️，涉及的相關倫理挑戰以及知識產權的保護成為業界研究和討論的焦點。生成式人工智能對現有數據🧗‍♀️、算法、算力分而治之的治理範式提出了嚴峻挑戰，網絡安全、數據安全📗、個人信息保護🍊、數據跨境流動等現有製度還存在不相容之處，治理範式、現有理論均存在缺失💲，急需製度完善以促進產業發展。

　　生成式人工智能引發的風險挑戰

信息捏造的風險。生成式人工智能在信息生成方面的強大能力帶來了虛假信息的滋生🖖🏿。客觀數據的偏差和主觀需求的操控使得生成的信息具有極高的迷惑性，對社會公眾認知的真實性提出了嚴峻挑戰🫸🏼。如何有效應對信息捏造問題🧚🏽‍♂️🖕，保障信息的真實性和可信度，成為當務之急。

據隱私的風險✫。生成式人工智能服務的普及使得用戶將個人或企業內部數據不可避免地上傳到相關系統中👮🏽‍♂️🍝，存在較大的數據及商業機密泄露風險。2023年3月🚶‍♀️‍➡️，韓國三星集團發生了三起由ChatGPT誤用導致設備信息和會議內容泄露的案例🤦🏿。5月，美國科技巨頭臉書母公司Meta被愛爾蘭數據保護委員會開出12億歐元的巨額罰單🌄，創下《通用數據保護條例》生效5年來罰款金額的新紀錄🛵，理由是臉書等社交平臺違反歐盟《通用數據保護條例》。由此可見💘，生成式人工智能對數據的敏感性和影響力呼喚著對數據隱私安全性更為嚴格的管理和監管🍸。

信息壟斷的風險。生成式人工智能的算法和數據瑕疵可能導致嚴重後果🟧♊️，且其在市場上可能形成信息壟斷，提高信息甄別成本。算法的共謀和推薦可能導致企業進一步擴大壟斷，甚至通過算法預警方式扼殺其他生成式人工智能企業。一旦形成信息壟斷，將導致人類無法真正辨別生成式人工智能所產生的結果是否真實，從而產生數字鴻溝。

責任機製的風險。生成式人工智能仍然是數據驅動型產品🕵🏽‍♀️，OpenAI的相關協議是生成式人工智能治理範式的良好借鑒。基於數據生命周期對相關協議進行責任分析👩🏽‍🌾，表現出責任承擔機製不明的情況。過度收集👩🏽‍⚖️、未明確數據挖掘原則以及對數據共享與傳輸規定的缺失，給生成式人工智能產品方帶來數據合規🍭、數據挖掘可責性等方面的挑戰☯️。

知識產權的風險𓀆。生成式人工智能的高智能化程度對知識產權的歸屬提出了新的挑戰。雖然OpenAI公司在ChatGPT的《共享和發布政策》中提到生成內容的歸屬屬於用戶💆🏼‍♀️，但仍然存在一系列知識產權爭議。如果研發機構在訓練人工智能時未能獲得訓練材料提供者的充分授權，就很可能產生知識產權糾紛💆🏽‍♀️。

　　強化生成式人工智能治理的政策啟示

強化生成式人工智能治理的頂層設計💞。第一🦹‍♀️，構建軟硬法結合的規範體系🧑🏼‍🎤。在法律法規後續的配套規定中仍需加強安全平等理念的價值引領🪠，建立靈活和反應迅速的治理框架🤏。在責任承擔方面可以由服務提供者承擔主體責任，用戶承擔部分責任。建立符合訓練數據性質、結構和特征的新型數據財產權製度，健全各類技術規範和技術標準。第二，依托政府與行業監管。上海市應當製定全面的倫理準則或倡導發起全球領先的倫理框架。相關部門應加強行業監督，督促企業落實倫理審查及信息披露義務，根據使用場景👷🏿‍♂️、安全級別、私密程度⛹️‍♀️、敏感程度對數據分類分級、動態更新底層數據🕺🏽。

完善生成式人工智能科技倫理審查體系。第一🏊‍♀️，強化全生命周期審核管理。搭建涵蓋人工智能算法、數據👩🏽‍💻、模型的全生命周期審核管理體系。建立認知風險“識別-監測-研判-預警”機製，在事前治理上，警示潛在風險；在事中、事後治理上，精準評估技術危害，通過采取多樣化手段最大程度減輕生成式人工智能技術異化對主體造成的不良影響🐶🧑🏼‍🤝‍🧑🏼。第二，構建算法倫理審計機製。製定一套清晰的算法倫理審計標準和指南🙎🏼，設立獨立的機構負責算法倫理審計👩🏻‍🚀，培養具有倫理素養的技術專業人才🫓👳🏽。建立定期的審計周期🏖，重點評估算法的決策透明度，加強個人信息保護法律和倫理意識🍔。

推進生成式人工智能健康長遠發展。第一👮🏿，健全科技倫理治理平臺。通過多方參與共同討論和解決倫理問題，定期舉行會議，討論當前熱點問題🚿，分享最新研究成果，探討技術發展趨勢🦽。針對特定的倫理問題成立專門的工作組或專項小組，通過在線平臺🗼、公共咨詢和公眾論壇等方式👨🏽‍🎤，鼓勵公眾參與生成式人工智能倫理問題的討論🌗。第二，積極推動生成式人工智能的應用。引導企業將其應用於實際的業務場景中，充分發揮上海科教資源、人才資源、產業資源豐富的地域優勢，吸引和培育更多的人工智能企業和創新團隊♣️🔕，全面跟進生成式人工智能發展趨勢。

政策的製定應該充分考慮技術創新的推動力，同時確保倫理和法律框架的健全性，通過規範、標準和監管機製♊️🧏🏽‍♂️，進一步平衡社會公共利益、用戶和企業的權益👩🏻‍💻，從而促進生成式人工智能的健康發展。

（作者🍮：恒达平台上海國際知識產權學院副院長♻️、教授 姜 南 恒达平台上海國際知識產權學院博士研究生 李鵬媛）

鏈接：http://shekebao.com.cn/detail/4/26499