上海AI大模型落地提速：34款已備案，17款正在備案

8月30日下午，2024年國(guó)家網(wǎng)絡(luò)安全宣傳周上海地區(qū)活動(dòng)徐匯區(qū)大模型主題分論壇在上?！澳Ｋ倏臻g”創(chuàng)新生態(tài)社區(qū)舉行。

上海市委網(wǎng)信辦總工程師楊海軍透露，截至目前，全國(guó)已經(jīng)有188款大模型完成備案，上海市共34款，其中徐匯區(qū)21款。目前，上海還有兩批次17款大模型正在備案流程中。模速空間生態(tài)集聚效應(yīng)顯現(xiàn)。記者注意到，截至8月30日，上海市累計(jì)已完成30款生成式人工智能服務(wù)登記。

2022年底以來(lái)，以大語(yǔ)言模型為代表的生成式人工智能技術(shù)與應(yīng)用快速發(fā)展，服務(wù)公眾，賦能行業(yè)。同時(shí)，大模型也引發(fā)業(yè)界和公眾對(duì)人工智能安全和倫理的擔(dān)憂。

楊海軍說(shuō)，為應(yīng)對(duì)生成式人工智能帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)，國(guó)家及上海市持續(xù)出臺(tái)相應(yīng)法規(guī)政策，促進(jìn)創(chuàng)新與依法治理相結(jié)合。2023年8月15日，國(guó)家網(wǎng)信辦等七部委聯(lián)合出臺(tái)的《生成式人工智能服務(wù)管理暫行辦法》正式施行，成為全球生成式人工智能服務(wù)監(jiān)管立法的先行者。

2024年世界人工智能大會(huì)上，“上海人工智能安全治理實(shí)驗(yàn)室”正式揭牌。“我們將持續(xù)統(tǒng)籌發(fā)展與安全，在推動(dòng)人工智能賦能千行百業(yè)的同時(shí)，不斷加強(qiáng)安全保障，提升安全性、可靠性、可控性和公平性，推動(dòng)人工智能以人為本、智能向善?！睏詈＼娬f(shuō)。

當(dāng)天，論壇圍繞“大模型浪潮下的安全挑戰(zhàn)”主題，聚焦大模型最新的技術(shù)進(jìn)展及其所面臨的安全難題，邀請(qǐng)相關(guān)領(lǐng)域的學(xué)者、科研專家、行業(yè)大咖，就大模型科研動(dòng)態(tài)、發(fā)展趨勢(shì)、技術(shù)實(shí)踐以及安全挑戰(zhàn)等話題展開深入的研討與交流。

上海市信息安全測(cè)評(píng)認(rèn)證中心總工程師李宏達(dá)以《生成式人工智能內(nèi)容安全指引及備案》為題作交流分享。智巡密碼（上海）檢測(cè)技術(shù)有限公司副總經(jīng)理、高級(jí)工程師劉軍榮帶來(lái)《密碼技術(shù)守護(hù)大模型安全》的主題分享，深入探討了密碼技術(shù)與大模型的融合應(yīng)用與創(chuàng)新發(fā)展。

此外，上海商湯智能科技有限公司、上海數(shù)字安全科技有限公司、觀源（上海）科技有限公司、深圳奧聯(lián)信息安全技術(shù)有限公司等單位的行業(yè)專家圍繞《大模型浪潮下的安全挑戰(zhàn)》主題展開圓桌討論。

?

編輯：林鄭宏

聲明：新華財(cái)經(jīng)為新華社承建的國(guó)家金融信息平臺(tái)。任何情況下，本平臺(tái)所發(fā)布的信息均不構(gòu)成投資建議。如有問(wèn)題，請(qǐng)聯(lián)系客服：400-6123115