今年以來，以ChatGPT為代表的生成式人工智能技術不斷取得突破，引發全球高度關注，人工智能發展進入更加智能、更加通用的新階段。目前，許多互聯網大廠、人工智能科技企業、高校和研究機構等自研的通用、行業、垂直AI大模型百花齊 放，為各行各業帶來了巨大的活力和創新機遇。安防作為AI技術商業化落地發展最快、市場容量最大的主賽道，在AI大模型的賦能下將有怎樣的新突破和新發展？
?
一、AI加速迭代行業大模型不斷涌現
去年年底以ChatGPT為代表的生成式人工智能技術在全球掀起一輪AI熱潮，隨之國內互聯網大廠、人工智能企業紛紛緊跟，各類AI大模型層出不窮；李彥宏、張勇等互聯網大佬也一致斷言大模型將顛覆整個行業。
時至今年下半年，隨著類似ChatGPT等基礎大模型喧囂過后，AI行業化大模型逐漸占上科技創新的浪尖，無論是今年7月份上海的2023世界人工智能大會，還是此次廈門投洽會重要展區警安法務科技展，“行業大模型”成為活動的“頂流”與談論的高頻詞，下半年不斷涌現的垂直行業大模型也有力證明了這一事實。
相關業內專家也表示，通用大模型研發基本是互聯網大廠們的專屬戰場，強有力的計算能力、大量有效的數據資源，以及高成本的長期訓練和推理正是這些巨頭具備的優勢。然而通用大模型對于更關注碎片化場景下的行業用戶而言，無法滿足他們具體業務的需求。因此，強人工智能真正要落地應用、賦能行業，還需要依賴行業大模型。這也是為何今年在6月份召開的第十六屆（2023）中國國際社會公共安全產品博覽會上，相關企業行業大模型應用Demo紛紛亮相。比如宇視首度推出行業大模型梧桐系列云端應用、商湯科技帶來日日新SenseNova大模型、聯匯科技的視覺語言大模型OmModel以及熵基科技自主研發的BioCVLLM大語言模型等，展現出行業化可喜表現。
此次警安法務科技展上，行業大模型在警務及司法領域又展現出新的技術變革，美亞柏科推出了國內首個公共安全大模型一體化裝備——“天擎”。“天擎”擁有豐富的公共安全行業知識，具備強大的警務意圖識別、警務情報分析、案情推理等業務理解和推理能力，能夠從海量數據中持續自我進化，實現行業知識、業務問題，解決反饋的全流程閉環進化，大大提升辦案效率，大幅降低業務成本；在人工智能論壇上，清華大學互聯網司法研究院帶來了面向司法領域的大語言模型構建探索與實踐，為司法大語言模型落地提供了很好的路徑與思考；蘇州科達基于公安實戰業務提出KD多模態大模型，推動大模型在安防行業生根發芽。
?
二、安防+AI成就有目共睹
大模型值得期待
眾所周知，安防行業作為人工智能技術應用最具代表性的領域，大約在2015年左右，識別、分析類的算法開始在行業內成規模應用，到2018年短短幾年間，人臉檢測、識別和視頻分析應用已成為行業主流。可以說，AI技術推動著安防行業全面進入了智能化時代，并不斷重塑著行業應用與商業模式。
當前，AI加速迭代并滲透到整個安防產業，從前端產品到后端平臺、再到整體解決方案，各種產品琳瑯滿目。人工智能技術在端、邊、云各層級上實現全面賦能應用，并且在各行業數字化驅動下，應用場景已從落地實戰較早的公安、交通等領域向金融、社區、園區、水利、商業、民用等領域持續拓展。
對于人工智能帶給公安領域的創新與變革，在此次人工智能論壇上，廈門市公安局覃智泉主任通過人工智能在公安偵查打擊、治安防控、110接處警、智慧交通、服務民生、流程再造等方面的創新實踐給出了最有力的佐證。
可以說，人工智能技術或如蘇州科達首席科學家章勇所言，AI感知智能已經在行業展示出其“十八般武藝”，其成就有目共睹。接下來，AI大模型又將在行業創造怎樣的一番天地？已經成為整個行業拭目以待的重頭戲。
除了已經取得的成果，行業也注意到，隨著人工智能技術的演進，傳統深度學習算法在碎片化的安防應用場景中的局限性日益凸顯。“基于特征識別的AI1.0對感知信息的深度理解，如目標和目標之間的關系、目標和場景之間的互動關系等會有很大的困難。”章勇表示，一方面是多樣化的場景帶來數據采集及標注的困難，同時任務多變性，導致AI1.0泛化性能比較差。另一方面，對行業知識的理解需要高質量知識圖譜構建模式，需要大規模自動化的知識獲取，但知識又是動態變化的，現有傳統算法無法滿足實際場景應用。這也是為何弱人工智能下算法只能做人臉識別、車牌識別等有限的產品，持續擴展的空間不足，再疊加高昂的研發成本，目前一些人工智能企業活得并不輕松也有這方面的原因。
相比之下，大模型具有更好的泛化能力與知識圖譜的構建能力，能夠突破傳統算法的精度和數據局限問題，同時大數據與人工智能的結合也將更加緊密，行業智能化應用將有可能突破現有瓶頸。
?
三、大模型帶來想象空間
但行業化應用面臨不少考驗
以AIGC為例，其在語義理解、文本創作、邏輯推理等領域的卓越表現，以及自然語言對話的低門檻交互方式，讓行業看到智能化升級又將迎來新的發展空間。
1
行業大模型帶來新的想象空間
對于特定行業的碎片化場景，用戶其實并不需要通用大模型的全面能力，更需要行業大模型的精度和質量。在行業知識圖譜的基礎上，以沉淀的行業數據、專家經驗以及工程實踐能力予以配合，通用大模型演進下的行業垂直模型將拉開強人工智能場景化應用新序幕。
眾所周知，作為數字化和智能化應用的前沿領域，安防行業擁有極為豐富的感知設備和可觀的數據資源，再加上廣泛的應用場景，行業必將成為大模型率先落地的垂直領域之一。伴隨著高性能、高穩定的大模型不斷突破發展，更高通用性和工業化水平AI2.0將持續拓寬安防行業數字化、智能化的邊界。一方面大模型、AGI等新一輪的AI技術變革將使得安防領域AI算法更加精準。另一方面通過多模態技術可以將圖像、語音和文本等數據進行融合，實現多樣化海量數據深度挖掘，并在此基礎上進一步提取數據內容關聯價值。例如在多種非結構性數據中提取相關的人、事、物、組織等關鍵要素，繼而形成具有知識價值的圖譜，不但提升了長尾AI需求落地的效率和效果，更有可能改變相關產品研發、項目運營等環節的交互方式。
可以相信，伴隨著AI大模型等技術在安防領域逐漸落地及場景突破，有望在行業內真正構建起事前預測預防、事中制止、事后監督的治理體系與機制，進而提高社會預測預警預防各類風險能力，增強社會公共安全防控的整體性、協同性、精準性，更能推而廣之，探索安防在安全生產、應急防災、生態建設與保護等領域的深度應用。AI大模型融入公共安全領域其背后的價值將不可估量。
2
行業化發展面臨應用與安全諸多挑戰
在誘人的發展前景外，技術的雙刃劍效應在AI大模型上依然不容小覷。正如覃智泉主任所言，當前公安領域面臨著AI大模型應用及安全方面諸多問題需要深入思考。
在應用方面，哪些業務可以引入大模型？用哪些業務數據進行大模型訓練？數以千億計的數據進行訓練必將帶來高昂的費用支出，誰來承擔？大模型在公安工作中落地應用，帶來的法律跟責任問題該如何界定等等；在安全方面，如何保證訓練數據安全，AI大模型帶來的虛假信息、深度偽造信息等如何解決？這些已經成為阻擋AI大模型賦能公安應用較為現實的問題。
在AI大模型應用部署上，華為技術有限公司科學家胡善勇也提出：由通用大模型向專業行業大模型演進，需要投入高昂的算力成本、數據成本、算法成本以及人力成本，這與狹窄行業應用對應的商業價值和商業收益不成正比，因此目前來看，面向行業大模型還難以形成正向的商業應用閉環，需要企業持續不斷地試錯與投入。
安全問題是AI大模型另一較為凸顯的話題，近段時間無論是AI“黑產”，還是深度偽造帶來的涉詐犯罪風險正在積聚。在此次人工智能論壇上，美亞柏科AI研發中心總經理趙建強等相關專家系統地總結了AI大模型在數據安全方面面臨的一些困境：一方面AI大模型存在算法、數據等安全風險。以算法風險為例，大模型無法抵抗提示注入、對抗樣本等攻擊，可靠性低。如受到攻擊，用于大模型訓練的一些個人隱私數據容易泄露，尤其是涉及到的個人身份信息。同時，它還存在歧視、倫理偏見等數據方面的問題。另一方面大模型、生成式AI（AIGC）技術存在被不法分子利用的風險，如通過深度偽造相關視頻或圖像信息進行詐騙，目前國內已經出現類似的案件。
同時，生成式人工智能技術可能帶來非常多的虛假信息，或者說加速虛假信息的生成和傳播。
除了以上兩個方面，AI大模型或者生成式人工智能技術本身及應用過程中還會帶來很多在倫理道德、法理、法律等方面的挑戰，甚至可能影響整個社會穩定，危害到國家安全。
3
大模型可信與規范化需要評測標準
據賽迪顧問統計顯示，截至2023年7月，國內累計已經有130個大模型問世，再加上一些企業孵化的行業大模型，有人戲稱目前國內已經進入“千模大戰”。
然而，這些大模型是否果真名副其實，能否稱得上“大模型”，以及當前公布的大模型算法是否有缺陷、內容是否符合法律法規要求及政策監管，都不得而知。面對大模型、AIGC急速發展帶來的一系列應用與安全問題，如何構建可信的AI大模型、實現對AIGC內容的規范管理已經成為行業及國家重點關注的內容。
清華大學互聯網司法研究院助理教授艾清遙表示，相較于智能輔助駕駛，目前對于AI大模型能力的評測，尤其是AIGC內容方面的檢測還沒有一個通用指標或通用范式。
在安全問題受到高度重視的當下，AI大模型產業需要統籌發展與安全，特別是涉及公共安全領域的垂直應用大模型，亟需建立可信與規范化的評測標準體系。
?
四、多方聯動并舉
助力行業大模型規范化應用
“變革是由問題倒逼而產生，又在不斷解決問題中而深化。”AI通用大模型在向行業大模型持續精進的過程中，需要跨過應用適配性與安全規范化兩道坎，這也是當前各個行業針對大模型發力的重點。
“行業大模型落地部署，硬件非常簡單，通過加大算力的部署即可實現。真正的挑戰是軟件技術以及對行業業務層面的深度理解。”胡善勇表示，行業大模型對公共安全治理將會是一場非常重大開創性變革，雖然在公安與司法領域，大模型商業化應用閉環還較難實現，但前期的戰略預研至關重要，這不但需要國家及地方政府予以資源支持，還需要在統一引領下，通過產學研以及社會組織共同努力實現預研的持續推進，在為大模型行業化應用打下堅實基礎的前提下，相信在未來三到五年公共安全行業大模型應用將會有成效彰顯。
自AI落地行業之日起，安全問題已經不是一個應用層面的問題，而是產業級問題。胡善勇特別強調，AI安全問題關鍵是源頭，通過法律、法規前置化處理以達到治理非結構數據帶來的深度偽造與虛假信息。趙建強也提出，針對AI大模型及生成式人工智能技術的安全治理需要從多個方面入手:
一是要源頭治理，國家發布的《生成式人工智能服務管理暫行辦法》明確提出來在生成式人工智能技術研發過程中進行數據標注。相關部門也將制定相應的分類分級監管規則或者指引，加強對生成式人工智能的模型、算法、數據的安全評估和管控。
二是要加強行業自律，無論是內容生產、應用還是服務，相關企業需要加強自律，需要對大模型從技術、內容等方面進行深度審核、管理、治理；行業組織則需加快相應產品評估方法和標準落地，以引導行業發展。
三是通過技術的方式去支撐法律、規則和標準落地，實現對大模型產品的“質檢”。目前人為因素已經沒有辦法監督和評價生成式人工智能所生成的內容，需要通過AI方式進行鑒別，以AI對抗AI，進而實現對大模型進行安全性評估，對內容數據進行相應的監督檢查，實現最大限度發現可能存在的偽造、虛假信息。
正如前段時間熱映的《奧本海默》引發的熱議，原子彈的研發對人類而言最終是利是弊，發人深省。也許當前社會正處于強人工智能的“奧本海默時刻”，面對快速迭代的AI大模型以及AIGC技術，AI技術“雙刃劍”效應必然要求行業必須堅持發展與安全并重的態度，才能讓新技術真正發揮更大價值。
?
小結
可以斷言，當下人工智能正在進入通用的新階段，只是這個階段的前奏有多長還無人知曉。安防行業一直被認為是人工智能強應用的領域，我們也寄希望在安防行業邁向高質量發展關鍵時期，行業級AI大模型能夠讓更多創新技術融合并更快速、更廣泛地賦能更多細分場景應用，助力行業深挖更廣闊的創新空間和市場潛力。
（文章來源于：中國安防協會，如有侵權請聯系刪除）
