(網經社訊)三只羊公司是直播帶貨領域的頭部企業(yè)之一，最近這段時間可謂是處于輿論的風口浪尖，月餅的虛假宣傳事件還未過去，錄音事件風波又起。一段聲稱是三只羊集團創(chuàng)始人盧文慶的錄音在網絡上廣泛傳播，引來一眾吃瓜群眾。在這段音視頻中，“盧文慶”就三只羊集團處理客戶投訴問題、競爭對手等方面發(fā)表了一系列言論，并涉及所謂的“職場潛規(guī)則與女主播之間存在不正當關系”。對此，合肥市公安局高新分局于昨日發(fā)布通報，確認該網傳音視頻系通過人工智能工具訓練生成的虛假內容。目前，涉嫌偽造音視頻的犯罪嫌疑人王某某已被依法采取刑事強制措施，案件正在進一步偵辦中。
利用AI的違法行為有哪些？
隨著AI功能的日益普及以及AI工具的逐步完善，使用AI進行文字、圖片和音視頻合成變得更為便捷，使得利用AI偽造、造謠的成本以及門檻大大降低了?，F(xiàn)在就“AI內容造假”作為關鍵詞在搜索引擎簡單一搜，就能檢索到大量關于AI造假的新聞。
1.虛假信息傳播
四川網警就在2024年7月27日發(fā)布了10起利用AI造謠典型案例，其中包括虛構自然災害事件、人物經歷、虛假橫幅口號等，顛覆了“有圖就有真相”的常規(guī)認知，以達到誤導網民引發(fā)廣泛討論，吸引流量博取眼球。
2.網絡詐騙
詐騙分子通過收集受害者的相關信息，使用AI技術偽造的視頻和聲音幾乎可以以假亂真。受害者在沒有進一步核實的情況下，按照“朋友”或者“親人”的指示進行了轉賬操作的案子比比皆是。
3.制作淫穢物品
還有在北京警方偵破的一起案件中，不法分子利用AI換臉技術、一鍵去衣等技術實施，只要用戶提供一張被害人的生活照，就可以生產淫穢物品等違法行為，該案深度偽造近7000張淫穢圖片，并成為敲詐勒索等違法犯罪工具。
北京互聯(lián)網法院近期還審理了一起AI生成聲音人格權侵權案，明確認定在具備可識別性的前提下，自然人聲音權益的保護范圍可及于AI生成聲音。
當然，利用AI產生的新型違法犯罪行為遠不止以上這些類型，包括利用AI分析個人信息，侵犯個人隱私，還包括利用AI技術開發(fā)惡意軟件，進行網絡攻擊或黑客活動，這些行為不僅嚴重威脅到個人和組織的信息安全，還可能導致關鍵基礎設施受損，擾亂經濟秩序，甚至影響社會穩(wěn)定。此外，AI還可被用于自動化批量實施網絡犯罪，進一步加劇了網絡安全的復雜性和防控難度。
法規(guī)對于AI內容的審核要求有哪些？
為規(guī)范生成式人工智能服務，我國相繼出臺了多項法律法規(guī)，如《生成式人工智能服務管理暫行辦法》《互聯(lián)網信息服務深度合成管理規(guī)定》《互聯(lián)網信息服務管理辦法》《網絡信息內容生態(tài)治理規(guī)定》等，旨在確保AI生成內容的合法性、可靠性和透明度，以維護網絡信息生態(tài)的健康與安全。
1.《生成式人工智能服務管理暫行辦法》第四條 提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：
（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內容；
（二）在算法設計、訓練數(shù)據選擇、模型生成和優(yōu)化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；
（三）尊重知識產權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；
（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；
（五）基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
2.《互聯(lián)網信息服務深度合成管理規(guī)定》第十條 深度合成服務提供者應當加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數(shù)據和合成結果進行審核。
深度合成服務提供者應當建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序，記錄并留存相關網絡日志。
深度合成服務提供者發(fā)現(xiàn)違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向網信部門和有關主管部門報告；對相關深度合成服務使用者依法依約采取警示、限制功能、暫停服務、關閉賬號等處置措施。
3.《互聯(lián)網信息服務管理辦法》第十三條 互聯(lián)網信息服務提供者應當向上網用戶提供良好的服務，并保證所提供的信息內容合法。
4.《網絡信息內容生態(tài)治理規(guī)定》第九條 網絡信息內容服務平臺應當建立網絡信息內容生態(tài)治理機制，制定本平臺網絡信息內容生態(tài)治理細則，健全用戶注冊、賬號管理、信息發(fā)布審核、跟帖評論審核、版面頁面生態(tài)管理、實時巡查、應急處置和網絡謠言、黑色產業(yè)鏈信息處置等制度。
網絡信息內容服務平臺應當設立網絡信息內容生態(tài)治理負責人，配備與業(yè)務范圍和服務規(guī)模相適應的專業(yè)人員，加強培訓考核，提升從業(yè)人員素質。
5.《最高人民法院、最高人民檢察院關于辦理利用信息網絡實施誹謗等刑事案件適用法律若干問題的解釋》第八條 明知他人利用信息網絡實施誹謗、尋釁滋事、敲詐勒索、非法經營等犯罪，為其提供資金、場所、技術支持等幫助的，以共同犯罪論處。同樣適用于利用AI技術生成的虛假信息。
除了以上法規(guī)外，還有標準委員會出具的《生成式人工智能服務安全基本要求》生成式人工智能服務在安全方面的基本要求，包括語料安全、模型安全、安全措施等，并給出了安全評估要求?！度斯ぶ悄苌珊铣蓛热輼俗R方法（征求意見稿）》等標準也對于人工智能生成合成內容顯式標識和隱式標識的方法進行了明確。
AI平臺對于這類AI造假可以做什么？
合規(guī)治理關鍵點一：AI生成的顯性標識和隱形標識
AI平臺應當確保所有由AI生成的內容都有明顯的標識，告知用戶這些內容并非真實拍攝或撰寫。例如，在視頻中添加水印或角標，明確標注“AI生成”字樣；在文本中，使用特殊字體或顏色標記，或在開頭和結尾處加入提示語，告知讀者該內容為AI生成。這樣做不僅有助于提高用戶的識別能力，也能降低因誤解而導致的社會負面影響。
除了顯性標識之外，平臺還應使用隱形標識技術，如數(shù)字指紋、水印或元數(shù)據嵌入，這些標識不會直接影響用戶體驗，但在需要驗證時可以快速識別內容的真實性。這些技術手段可以有效防止偽造內容的傳播，確認內容的來源和完整性，保護平臺和用戶的權益。
合規(guī)治理關鍵點二：AI輸入端和輸出端的內容審核
輸入端審核：在AI生成內容的過程中，輸入數(shù)據的質量直接決定了輸出結果的可靠性。因此，平臺需要在輸入端設置嚴格的數(shù)據篩選機制，比如使用過濾器排除含有敏感詞匯、違法信息的數(shù)據，確保輸入數(shù)據的合法性。此外，還可以采用機器學習模型對輸入數(shù)據進行初步分類，識別出潛在的風險點，并進行人工復審，確保數(shù)據源的可靠性和真實性。
輸出端審核：AI生成的內容在發(fā)布前必須經過嚴格的審核流程。一方面，可以利用自動化工具進行初步篩查，比如使用自然語言處理技術識別文本中的違規(guī)內容，或通過圖像識別技術檢測視頻中的異常畫面。另一方面，對于自動化工具無法確定的內容，應輔以人工審核，確保內容的真實性和合規(guī)性。通過多層次的審核機制，可以有效防止虛假信息的傳播。若自己沒有相應人員以及能力進行審核的，也可以接入第三方內容審核服務商。
合規(guī)治理關鍵點三：建立自己的關鍵詞庫、拒答題庫等內部數(shù)據庫
為了有效識別和過濾敏感信息，AI平臺需要建立自己的關鍵詞庫。關鍵詞庫應涵蓋各類敏感詞匯，包括但不限于政治、宗教、色情、暴力等類別。關鍵詞庫應定期更新，確保其時效性和有效性。此外，還可以通過用戶反饋和數(shù)據分析不斷完善關鍵詞庫，使其更加精準地捕捉潛在風險。拒答題庫是指平臺明確禁止回答或生成的內容列表。例如，涉及個人隱私、商業(yè)秘密、國家安全、違法犯罪等問題不應由AI生成內容。對于一些有出海需求的AI平臺，還應當了解當?shù)氐奈幕⒆诮塘曀椎慕?，那么平臺可以更好地控制生成內容的范圍，避免觸及法律紅線或引發(fā)道德爭議。
合規(guī)治理關鍵點四：用戶實名認證、保留審核記錄以及及時報告
為了確保用戶行為的可追溯性，AI平臺應實行實名認證制度。用戶在注冊賬號時需提供真實有效的身份信息，并通過多種方式驗證其身份，如短信驗證碼、人臉識別等。實名認證不僅可以提高用戶的可信度，也能在發(fā)生糾紛時便于責任追究。
同時應當按照法律規(guī)定的時限保留AI內容審核記錄至少6個月，一旦發(fā)現(xiàn)可疑或違規(guī)內容，平臺應立即采取措施，并及時向有關部門報告。報告內容建議包括違規(guī)人員、違規(guī)行為的具體描述、處理措施及后續(xù)跟進計劃等。
合規(guī)治理關鍵點五：積極踐行算法備案
為確保算法使用的透明度和可追溯性，AI平臺應積極踐行算法備案制度。備案內容應包括主體備案，提供主體信息、公司內部對于算法合規(guī)的相關制度建設，還包括算法備案，涵蓋算法的基本原理、應用場景、預期效果、產品信息、產品預計使用人數(shù)等信息，以便監(jiān)管部門了解和評估算法的實際運行情況和可能產生的影響。
合規(guī)治理關鍵點六：公示算法原理公示
公示算法原理是提高AI平臺透明度和用戶信任的關鍵措施之一。平臺應當在其官方網站或應用內明確展示所使用算法的基本原理、工作流程和應用場景，讓公眾認識到我們算法如何運作。這不僅有助于用戶理解AI生成內容的邏輯，增強其對平臺的信任，還能促進用戶對AI內容的合理使用
對于生成式人工智能的內容治理道阻且長，各方仍需努力。
