當AI在短短幾秒內繪出熊貓花花號宇宙戰艦時，一位入行10年的影視制作從業者“心頭一緊”，技術的迭代升級讓他震撼不已；當AI輕而易舉地讓一位苗條靚麗的穿搭博主成為火上熱搜的地鐵裸女，技術的殺傷力也在輿論風波中讓無數網友細思極恐。
翻看AI繪畫的AB面，我們正在思索，當人工智能以迅雷不及掩耳之勢成熟時，規矩與方圓該如何入場。
女子被“一鍵脫衣”
AI會讓女性更危險么？
3月28日，一起利用AI惡意P圖的事件引爆輿論。
一位廣州穿搭博主去年7月曾在某社交平臺發布一張搭乘地鐵時的隨手拍，但時隔8個月，這張照片“搖身一變”成為了在朋友圈瘋傳的八卦談資，廣州地鐵3號線驚現裸女的離譜黃謠越傳越廣。據報道，謠傳的地鐵實拍照片其實是由AI一鍵脫衣生成的圖片。
事件當事人社交平臺 截圖
浙江在線記者通過搜索發現圖片源頭，發布原圖的是一位小紅書博主。“寶子們別慌，我都不慌，稍安勿躁我會進行相關的維權處理。”該博主回復表示。
不過在這句“不慌”的寬慰之下，更多網友則表示“很慌”。
大家在“慌”什么？答案是AI，以及AI有可能帶來的威脅感。
“我想問現在AI這么發達么，那豈不是隨便就能毀掉一個人的名聲啊！”網友“多神”評論后附上一個石化的表情包。在該事件相關內容的評論區，恐怖、害怕、惡心等感嘆俯拾即是。當城門失火，同在一片互聯網沖浪的網友不禁有濃郁的“殃及池魚”的憂患。
當AI畫出熊貓花花號戰艦
10年影視行業從業者心頭一緊
當AI繪畫掀起向惡而生的浪時，它也同樣激起了向智而生的潮。
“昨天AI給我畫出熊貓花花戰艦的時候，我真的心一緊。”從事10年影視行業的網友“PD徐”深深感受到了來自AI的壓力。3月27日晚，他抱著試一試的心態，試水文生圖系統文心一格。
宇宙蒼穹、結構光、4K、氣勢恢宏、土星環背景……他不斷輸入并調整關鍵詞時，系統給出的畫面似乎也在不斷朝著被“馴化”的方向發展。當他無意間加入“熊貓花花”這個關鍵詞時，短短幾秒之間令他觸動的畫面產生了——一艘有著熊貓骨骼輪廓的星際戰艦出現在一片漸變的宇宙深藍中。“這玩意兒有點腦子，它對‘熊貓花花’這個詞的理解，很妙。”
加入“熊貓花花”關鍵詞生成的AI繪畫 圖片源自PD徐
被觸動的同時，“PD徐”也產生了極大的危機感，從美國奈飛公司發布首支利用AIGC動畫《犬與少年》，到社交網絡博主自制AI動畫《石頭剪刀布》，再到可口可樂最近發布的實景 AI影片《杰作》，“PD徐”覺得技術升級像老虎一樣追到了他的腳后跟。“工具不分善惡，人才分善惡。”不過，對于AI繪畫的AB面，他有著涇渭分明的認知。
“超乎意料！”最近，杭州90后設計愛好者“Focal”也玩起AI繪圖。她從開源平臺下載了圖文生成模型Stable Diffusion，通過給模型不斷“投喂”自己的個人照片，訓練出了屬于自己的AI形象。作為一個女性，“Focal”對于AI繪圖有所保留。“我使用的這個可訓練的模型是離線的，拔了網線還是可以跑程序。”對于市面上一些需要上傳圖片到服務器導出的AI繪圖工具，她非常謹慎，擔心自己的肖像被盜用。“網上別有用心的人也很多，防不勝防。”
網友分享AI訓練經驗 圖片源自Focal
“用魔法打敗魔法”
AI繪畫亟待法律規范
從少婦出軌快遞小哥到女大學生被造黃謠，從男網紅合成與女明星親吻照被到女子被AI一鍵脫衣，不少網友感嘆AI繪圖似乎正讓女性處于更危險的局面，同時呼吁盡快立法規范。
“其實侵害是不分性別的，不管男性還是女性此前都有被AI侵權的案例出現。更需要意識到的是對個人的侵權只是冰山一角，沒有‘規矩’的AI還可能會涉及危害國家安全、信息安全。”面對不斷升級迭代的AI技術，中國政法大學傳播法研究中心副主任朱巍也認為，必須充分重視AI技術所產生的潛在問題。
他分析，伴隨ChatGPT等AI的快速迭代，如何應對“深度偽造”或將成為一個重要議題。《中華人民共和國民法典》第一千零一十九條指出，“任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。”此外，《中華人民共和國網絡安全法》第十二條也提及，不得編造、傳播虛假信息擾亂經濟秩序和社會秩序，以及侵害他人名譽、隱私、知識產權和其他合法權益。“對于虛假信息、偽造等內容可以見諸于現有法律法規，不過目前針對于AI領域尚無針對性立法。”朱巍表示。
“目前國際上已有一些國家對AI合成內容進行了規范，要求必須要有相應標記水印等，建議后續立法要跟進。”此外，朱巍認為，技術的升級也對監管手段提出了更高要求，“效率和安全在互聯網時代同樣重要，在技術監管上要用‘魔法’去打敗‘魔法’。”
