AI在安防行業(yè)的探索和落地：大模型賦能下，如何塑造安防新紀(jì)元？
來(lái)源:安防行業(yè)網(wǎng)
|
作者:龍運(yùn)智能
|
發(fā)布時(shí)間: 2023-12-08
|
970 次瀏覽
|
分享到:
隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用，安防領(lǐng)域正成為AI技術(shù)商業(yè)化落地發(fā)展最快、市場(chǎng)容量最大的主賽道之一。在AI大模型的賦能下，安防行業(yè)將會(huì)迎來(lái)怎樣的新突破和新發(fā)展呢？
隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用，安防領(lǐng)域正成為AI技術(shù)商業(yè)化落地發(fā)展最快、市場(chǎng)容量最大的主賽道之一。在AI大模型的賦能下，安防行業(yè)將會(huì)迎來(lái)怎樣的新突破和新發(fā)展呢？一、安防行業(yè)，在過(guò)去一年里有哪些明顯的變化呢？據(jù)深圳市安全防范行業(yè)協(xié)會(huì)等機(jī)構(gòu)的調(diào)查統(tǒng)計(jì)顯示，安防行業(yè)2023年產(chǎn)值約為9460億元，增長(zhǎng)幅度為4.9%。同時(shí)，相關(guān)報(bào)道顯示，2022年中國(guó)安防設(shè)備市場(chǎng)達(dá)1878億元，其中視頻監(jiān)控市場(chǎng)達(dá)808億元，防盜報(bào)警市場(chǎng)達(dá)214億元，出入口控制市場(chǎng)達(dá)528億元，樓宇對(duì)講、智能家居市場(chǎng)達(dá)328元。2023處于經(jīng)濟(jì)發(fā)展的復(fù)蘇期，那么對(duì)于安防市場(chǎng)而言，在過(guò)去一年里有哪些明顯的變化呢？其實(shí)安防市場(chǎng)大的變化主要有2個(gè)方面：一是傳統(tǒng)的政府類(lèi)項(xiàng)目市場(chǎng)進(jìn)展緩慢，隨著雪亮工程等大規(guī)模城市級(jí)項(xiàng)目建設(shè)進(jìn)入尾聲，政府端對(duì)公共安全的投入呈現(xiàn)放緩的態(tài)勢(shì)，大部分企業(yè)開(kāi)始向商業(yè)市場(chǎng)布局；二是生成式AI及大模型席卷各行各業(yè)，安防行業(yè)作為AI落地最佳場(chǎng)景，在過(guò)去的三年中卻陷入了沉默期。二、AI大模型混戰(zhàn)，漸進(jìn)產(chǎn)業(yè)化落地ChatGPT的出現(xiàn)讓大眾領(lǐng)略到生成式AI的力量，令人振奮，這也宣告著大模型時(shí)代正式到來(lái)。對(duì)此，安防人也更多的思考——視頻感知、圖像感知與大模型結(jié)合，會(huì)有怎樣的技術(shù)變革?安防、智慧物聯(lián)碰上大模型，會(huì)產(chǎn)生怎樣的火花?在安博會(huì)開(kāi)場(chǎng)的前一天，10月24日，大華發(fā)布了星漢大模型。早在今年五月，宇視就發(fā)布了“梧桐”大模型。如今，大華的入局，將AI大模型這一池子水，攪動(dòng)得更劇烈了。據(jù)悉，大華“星漢”大模型是以視覺(jué)解析為核心的多模態(tài)融合行業(yè)大模型，能夠帶來(lái)AI算法準(zhǔn)確性和泛化性躍升，實(shí)現(xiàn)圖文提示定義新功能，突破視覺(jué)認(rèn)知能力，全場(chǎng)景自主解析，高效滿(mǎn)足海量碎片化需求，將首先在城市治理和電力行業(yè)進(jìn)行應(yīng)用。值得注意的是，“星漢”大模型支持大小模型與算力協(xié)同，通過(guò)算法融合，實(shí)現(xiàn)大小模型協(xié)同部署，為用戶(hù)構(gòu)建好用、用得起的大模型系統(tǒng)。大華還專(zhuān)門(mén)成立未來(lái)通信研究院，專(zhuān)注進(jìn)行視頻數(shù)據(jù)智能化連接的底層研究，對(duì)“全連接”能力進(jìn)行加強(qiáng)和提升。同為股份也特地開(kāi)辟了一塊AI大模型系統(tǒng)體驗(yàn)區(qū)，同時(shí)展出了同為開(kāi)放訓(xùn)練解決方案，支持大模型少樣本學(xué)習(xí)的能力，易于開(kāi)發(fā)跨場(chǎng)景算法應(yīng)用，助力視覺(jué)AI算法在更多細(xì)分行業(yè)落地，打通AI落地的最后一公里。據(jù)悉，同為自研的AI大模型系統(tǒng)屬于百億級(jí)視覺(jué)語(yǔ)言多模態(tài)大模型，可深度理解視頻和自然語(yǔ)言，感知場(chǎng)景中更多目標(biāo)種類(lèi)、屬性和關(guān)聯(lián)態(tài)勢(shì)，進(jìn)一步提升安防系統(tǒng)的管理的范圍、效率和智能化程度。據(jù)工作人員介紹，目前同為AI大模型尚未正式發(fā)布，此次在展區(qū)展出的AI大模型系統(tǒng)為首次展出，預(yù)計(jì)年底將正式發(fā)布全新的行業(yè)大模型，可深度加持、理解安防行業(yè)任務(wù)和數(shù)據(jù)，進(jìn)一步賦能安防產(chǎn)業(yè)生態(tài)圈。記者走訪了解到，天視通也正在著手自研行業(yè)大模型的工作，專(zhuān)注研發(fā)人/動(dòng)物的精準(zhǔn)識(shí)別和統(tǒng)計(jì)，以期借助智能算法動(dòng)物識(shí)別技術(shù)幫助畜牧業(yè)實(shí)現(xiàn)高效的動(dòng)物管理，自動(dòng)記錄動(dòng)物種類(lèi)、數(shù)量等信息，增強(qiáng)算法泛化能力，實(shí)現(xiàn)精準(zhǔn)的養(yǎng)殖和數(shù)據(jù)分析。記者發(fā)現(xiàn)，算能也設(shè)置了一個(gè)互動(dòng)體驗(yàn)區(qū)——AIGC繪畫(huà)體驗(yàn)、AI公文寫(xiě)作等互動(dòng)體驗(yàn)，全面展示了AI生成、AI校對(duì)、AI續(xù)寫(xiě)、AI靈感等智能能力，十分有趣。例如，在AI公文寫(xiě)作互動(dòng)中，輸入“工作報(bào)告”等兩三個(gè)關(guān)鍵詞標(biāo)簽，便可生成一篇文章，并且關(guān)鍵詞越具體，輸出的內(nèi)容也越專(zhuān)業(yè)、具體。此外，還有針對(duì)法律行業(yè)的大模型-智能法務(wù)助理法小開(kāi)——可根據(jù)輸入內(nèi)容，為咨詢(xún)者提出相對(duì)專(zhuān)業(yè)、細(xì)化的法律依據(jù)與建議。還有，熵基展出的BioCV大語(yǔ)言模型也支持多語(yǔ)言表達(dá)與理解、持續(xù)繪畫(huà)、邏輯推理等能力。并且基于7B模型進(jìn)行場(chǎng)景微調(diào)，開(kāi)發(fā)了基于大語(yǔ)言模型的醫(yī)療助手，實(shí)現(xiàn)了位置查詢(xún)、在班醫(yī)生查詢(xún)和預(yù)約醫(yī)生等功能。此外，360智慧生活展區(qū)的視覺(jué)云應(yīng)用體驗(yàn)區(qū)也有生成式AI的展示成果——圖文問(wèn)答、開(kāi)放目標(biāo)檢測(cè)......仍有多家企業(yè)展會(huì)上秀出大模型的“肌肉”。整體來(lái)看，越來(lái)越多的中大型企業(yè)已經(jīng)開(kāi)始注重自研行業(yè)大模型的能力。AI大模型，已經(jīng)不再只是一個(gè)概念，它變成了一種能力的體現(xiàn)，開(kāi)始成為真正有實(shí)力底蘊(yùn)的安防、智慧物聯(lián)廠商秀“肌肉”的舞臺(tái)。AI大模型在漸進(jìn)落地的過(guò)程中，將會(huì)有越來(lái)越多的玩家涌入，安防識(shí)別與分析能力將會(huì)有質(zhì)的飛躍。三、大模型帶來(lái)想象空間 但行業(yè)化應(yīng)用面臨不少考驗(yàn)以AIGC為例，其在語(yǔ)義理解、文本創(chuàng)作、邏輯推理等領(lǐng)域的卓越表現(xiàn)，以及自然語(yǔ)言對(duì)話(huà)的低門(mén)檻交互方式，讓行業(yè)看到智能化升級(jí)又將迎來(lái)新的發(fā)展空間。對(duì)于特定行業(yè)的碎片化場(chǎng)景，用戶(hù)其實(shí)并不需要通用大模型的全面能力，更需要行業(yè)大模型的精度和質(zhì)量。在行業(yè)知識(shí)圖譜的基礎(chǔ)上，以沉淀的行業(yè)數(shù)據(jù)、專(zhuān)家經(jīng)驗(yàn)以及工程實(shí)踐能力予以配合，通用大模型演進(jìn)下的行業(yè)垂直模型將拉開(kāi)強(qiáng)人工智能場(chǎng)景化應(yīng)用新序幕。眾所周知，作為數(shù)字化和智能化應(yīng)用的前沿領(lǐng)域，安防行業(yè)擁有極為豐富的感知設(shè)備和可觀的數(shù)據(jù)資源，再加上廣泛的應(yīng)用場(chǎng)景，行業(yè)必將成為大模型率先落地的垂直領(lǐng)域之一。伴隨著高性能、高穩(wěn)定的大模型不斷突破發(fā)展，更高通用性和工業(yè)化水平AI2.0將持續(xù)拓寬安防行業(yè)數(shù)字化、智能化的邊界。一方面大模型、AGI等新一輪的AI技術(shù)變革將使得安防領(lǐng)域AI算法更加精準(zhǔn)。另一方面通過(guò)多模態(tài)技術(shù)可以將圖像、語(yǔ)音和文本等數(shù)據(jù)進(jìn)行融合，實(shí)現(xiàn)多樣化海量數(shù)據(jù)深度挖掘，并在此基礎(chǔ)上進(jìn)一步提取數(shù)據(jù)內(nèi)容關(guān)聯(lián)價(jià)值。例如在多種非結(jié)構(gòu)性數(shù)據(jù)中提取相關(guān)的人、事、物、組織等關(guān)鍵要素，繼而形成具有知識(shí)價(jià)值的圖譜，不但提升了長(zhǎng)尾AI需求落地的效率和效果，更有可能改變相關(guān)產(chǎn)品研發(fā)、項(xiàng)目運(yùn)營(yíng)等環(huán)節(jié)的交互方式。可以相信，伴隨著AI大模型等技術(shù)在安防領(lǐng)域逐漸落地及場(chǎng)景突破，有望在行業(yè)內(nèi)真正構(gòu)建起事前預(yù)測(cè)預(yù)防、事中制止、事后監(jiān)督的治理體系與機(jī)制，進(jìn)而提高社會(huì)預(yù)測(cè)預(yù)警預(yù)防各類(lèi)風(fēng)險(xiǎn)能力，增強(qiáng)社會(huì)公共安全防控的整體性、協(xié)同性、精準(zhǔn)性，更能推而廣之，探索安防在安全生產(chǎn)、應(yīng)急防災(zāi)、生態(tài)建設(shè)與保護(hù)等領(lǐng)域的深度應(yīng)用。AI大模型融入公共安全領(lǐng)域其背后的價(jià)值將不可估量。2、行業(yè)化發(fā)展面臨應(yīng)用與安全諸多挑戰(zhàn)在誘人的發(fā)展前景外，技術(shù)的雙刃劍效應(yīng)在AI大模型上依然不容小覷。正如覃智泉主任所言，當(dāng)前公安領(lǐng)域面臨著AI大模型應(yīng)用及安全方面諸多問(wèn)題需要深入思考。在應(yīng)用方面，哪些業(yè)務(wù)可以引入大模型？用哪些業(yè)務(wù)數(shù)據(jù)進(jìn)行大模型訓(xùn)練？數(shù)以千億計(jì)的數(shù)據(jù)進(jìn)行訓(xùn)練必將帶來(lái)高昂的費(fèi)用支出，誰(shuí)來(lái)承擔(dān)？大模型在公安工作中落地應(yīng)用，帶來(lái)的法律跟責(zé)任問(wèn)題該如何界定等等；在安全方面，如何保證訓(xùn)練數(shù)據(jù)安全，AI大模型帶來(lái)的虛假信息、深度偽造信息等如何解決？這些已經(jīng)成為阻擋AI大模型賦能公安應(yīng)用較為現(xiàn)實(shí)的問(wèn)題。在AI大模型應(yīng)用部署上，華為技術(shù)有限公司科學(xué)家胡善勇也提出：由通用大模型向?qū)I(yè)行業(yè)大模型演進(jìn)，需要投入高昂的算力成本、數(shù)據(jù)成本、算法成本以及人力成本，這與狹窄行業(yè)應(yīng)用對(duì)應(yīng)的商業(yè)價(jià)值和商業(yè)收益不成正比，因此目前來(lái)看，面向行業(yè)大模型還難以形成正向的商業(yè)應(yīng)用閉環(huán)，需要企業(yè)持續(xù)不斷地試錯(cuò)與投入。安全問(wèn)題是AI大模型另一較為凸顯的話(huà)題，近段時(shí)間無(wú)論是AI“黑產(chǎn)”，還是深度偽造帶來(lái)的涉詐犯罪風(fēng)險(xiǎn)正在積聚。在此次人工智能論壇上，美亞柏科AI研發(fā)中心總經(jīng)理趙建強(qiáng)等相關(guān)專(zhuān)家系統(tǒng)地總結(jié)了AI大模型在數(shù)據(jù)安全方面面臨的一些困境：一方面AI大模型存在算法、數(shù)據(jù)等安全風(fēng)險(xiǎn)。以算法風(fēng)險(xiǎn)為例，大模型無(wú)法抵抗提示注入、對(duì)抗樣本等攻擊，可靠性低。如受到攻擊，用于大模型訓(xùn)練的一些個(gè)人隱私數(shù)據(jù)容易泄露，尤其是涉及到的個(gè)人身份信息。同時(shí)，它還存在歧視、倫理偏見(jiàn)等數(shù)據(jù)方面的問(wèn)題。另一方面大模型、生成式AI（AIGC）技術(shù)存在被不法分子利用的風(fēng)險(xiǎn)，如通過(guò)深度偽造相關(guān)視頻或圖像信息進(jìn)行詐騙，目前國(guó)內(nèi)已經(jīng)出現(xiàn)類(lèi)似的案件。同時(shí)，生成式人工智能技術(shù)可能帶來(lái)非常多的虛假信息，或者說(shuō)加速虛假信息的生成和傳播。除了以上兩個(gè)方面，AI大模型或者生成式人工智能技術(shù)本身及應(yīng)用過(guò)程中還會(huì)帶來(lái)很多在倫理道德、法理、法律等方面的挑戰(zhàn)，甚至可能影響整個(gè)社會(huì)穩(wěn)定，危害到國(guó)家安全。3、大模型可信與規(guī)范化需要評(píng)測(cè)標(biāo)準(zhǔn)據(jù)賽迪顧問(wèn)統(tǒng)計(jì)顯示，截至2023年7月，國(guó)內(nèi)累計(jì)已經(jīng)有130個(gè)大模型問(wèn)世，再加上一些企業(yè)孵化的行業(yè)大模型，有人戲稱(chēng)目前國(guó)內(nèi)已經(jīng)進(jìn)入“千模大戰(zhàn)”。然而，這些大模型是否果真名副其實(shí)，能否稱(chēng)得上“大模型”，以及當(dāng)前公布的大模型算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求及政策監(jiān)管，都不得而知。面對(duì)大模型、AIGC急速發(fā)展帶來(lái)的一系列應(yīng)用與安全問(wèn)題，如何構(gòu)建可信的AI大模型、實(shí)現(xiàn)對(duì)AIGC內(nèi)容的規(guī)范管理已經(jīng)成為行業(yè)及國(guó)家重點(diǎn)關(guān)注的內(nèi)容。清華大學(xué)互聯(lián)網(wǎng)司法研究院助理教授艾清遙表示，相較于智能輔助駕駛，目前對(duì)于AI大模型能力的評(píng)測(cè)，尤其是AIGC內(nèi)容方面的檢測(cè)還沒(méi)有一個(gè)通用指標(biāo)或通用范式。在安全問(wèn)題受到高度重視的當(dāng)下，AI大模型產(chǎn)業(yè)需要統(tǒng)籌發(fā)展與安全，特別是涉及公共安全領(lǐng)域的垂直應(yīng)用大模型，亟需建立可信與規(guī)范化的評(píng)測(cè)標(biāo)準(zhǔn)體系。四、多方聯(lián)動(dòng)并舉 助力行業(yè)大模型規(guī)范化應(yīng)用“變革是由問(wèn)題倒逼而產(chǎn)生，又在不斷解決問(wèn)題中而深化。”AI通用大模型在向行業(yè)大模型持續(xù)精進(jìn)的過(guò)程中，需要跨過(guò)應(yīng)用適配性與安全規(guī)范化兩道坎，這也是當(dāng)前各個(gè)行業(yè)針對(duì)大模型發(fā)力的重點(diǎn)。“行業(yè)大模型落地部署，硬件非常簡(jiǎn)單，通過(guò)加大算力的部署即可實(shí)現(xiàn)。真正的挑戰(zhàn)是軟件技術(shù)以及對(duì)行業(yè)業(yè)務(wù)層面的深度理解。”胡善勇表示，行業(yè)大模型對(duì)公共安全治理將會(huì)是一場(chǎng)非常重大開(kāi)創(chuàng)性變革，雖然在公安與司法領(lǐng)域，大模型商業(yè)化應(yīng)用閉環(huán)還較難實(shí)現(xiàn)，但前期的戰(zhàn)略預(yù)研至關(guān)重要，這不但需要國(guó)家及地方政府予以資源支持，還需要在統(tǒng)一引領(lǐng)下，通過(guò)產(chǎn)學(xué)研以及社會(huì)組織共同努力實(shí)現(xiàn)預(yù)研的持續(xù)推進(jìn)，在為大模型行業(yè)化應(yīng)用打下堅(jiān)實(shí)基礎(chǔ)的前提下，相信在未來(lái)三到五年公共安全行業(yè)大模型應(yīng)用將會(huì)有成效彰顯。自AI落地行業(yè)之日起，安全問(wèn)題已經(jīng)不是一個(gè)應(yīng)用層面的問(wèn)題，而是產(chǎn)業(yè)級(jí)問(wèn)題。胡善勇特別強(qiáng)調(diào)，AI安全問(wèn)題關(guān)鍵是源頭，通過(guò)法律、法規(guī)前置化處理以達(dá)到治理非結(jié)構(gòu)數(shù)據(jù)帶來(lái)的深度偽造與虛假信息。趙建強(qiáng)也提出，針對(duì)AI大模型及生成式人工智能技術(shù)的安全治理需要從多個(gè)方面入手:一是要源頭治理，國(guó)家發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》明確提出來(lái)在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注。相關(guān)部門(mén)也將制定相應(yīng)的分類(lèi)分級(jí)監(jiān)管規(guī)則或者指引，加強(qiáng)對(duì)生成式人工智能的模型、算法、數(shù)據(jù)的安全評(píng)估和管控。二是要加強(qiáng)行業(yè)自律，無(wú)論是內(nèi)容生產(chǎn)、應(yīng)用還是服務(wù)，相關(guān)企業(yè)需要加強(qiáng)自律，需要對(duì)大模型從技術(shù)、內(nèi)容等方面進(jìn)行深度審核、管理、治理；行業(yè)組織則需加快相應(yīng)產(chǎn)品評(píng)估方法和標(biāo)準(zhǔn)落地，以引導(dǎo)行業(yè)發(fā)展。三是通過(guò)技術(shù)的方式去支撐法律、規(guī)則和標(biāo)準(zhǔn)落地，實(shí)現(xiàn)對(duì)大模型產(chǎn)品的“質(zhì)檢”。目前人為因素已經(jīng)沒(méi)有辦法監(jiān)督和評(píng)價(jià)生成式人工智能所生成的內(nèi)容，需要通過(guò)AI方式進(jìn)行鑒別，以AI對(duì)抗AI，進(jìn)而實(shí)現(xiàn)對(duì)大模型進(jìn)行安全性評(píng)估，對(duì)內(nèi)容數(shù)據(jù)進(jìn)行相應(yīng)的監(jiān)督檢查，實(shí)現(xiàn)最大限度發(fā)現(xiàn)可能存在的偽造、虛假信息。正如前段時(shí)間熱映的《奧本海默》引發(fā)的熱議，原子彈的研發(fā)對(duì)人類(lèi)而言最終是利是弊，發(fā)人深省。也許當(dāng)前社會(huì)正處于強(qiáng)人工智能的“奧本海默時(shí)刻”，面對(duì)快速迭代的AI大模型以及AIGC技術(shù)，AI技術(shù)“雙刃劍”效應(yīng)必然要求行業(yè)必須堅(jiān)持發(fā)展與安全并重的態(tài)度，才能讓新技術(shù)真正發(fā)揮更大價(jià)值。
（文章來(lái)源于：安防行業(yè)網(wǎng)，如有侵權(quán)請(qǐng)聯(lián)系刪除）
