安防進(jìn)入大模型時(shí)代，依圖「求索」新十年

廣度上，狹義上的安防市場，從以抓逃布控為主體的公共安全業(yè)務(wù)，走向更綜合的城市治理類業(yè)務(wù)；與此同時(shí)，泛安防市場借助視覺智能化技術(shù)，向前進(jìn)入更大的ToB企業(yè)市場，同時(shí)增加非視頻投入，通過擴(kuò)充產(chǎn)品線，尋求更大的增長空間。

深度上，企業(yè)仍以視頻為核心，在智能技術(shù)上進(jìn)一步投入感知智能、認(rèn)知智能，部屬大模型能力。

這兩個(gè)方向的開掘，都與視頻的智能化緊密結(jié)合。

從早期“看得見"，到“看得清"，再到今天大模型賦能下的“看得懂"，視頻智能化經(jīng)歷了L1-L5五個(gè)階段的進(jìn)化：

從圖片的結(jié)構(gòu)化標(biāo)簽到視頻的語義理解；

從眾多的判別式任務(wù)模型到視覺為基礎(chǔ)的多模態(tài)大模型；

從端側(cè)攝像頭AI算力到云邊側(cè)集中式服務(wù)器AI算力；

從人、車的識別到長尾物體的識別；

從標(biāo)簽式篩選交互到基于語義的人機(jī)多模態(tài)交互。

在L5階段，大家基本達(dá)成一個(gè)重要共識：以Transformer為基礎(chǔ)的大模型統(tǒng)一了視頻和大數(shù)據(jù)的底層框架，也開啟了視頻智能化情境理解的新時(shí)代。

意味著面對同一個(gè)指令，整個(gè)流程將從割裂的兩個(gè)步驟簡化成一個(gè)步驟，并且由于省略了中間過程，預(yù)測準(zhǔn)確性將極大提升。

以統(tǒng)計(jì)A路口過去十天的擁堵狀況為例，以往的做法是，先通過攝像頭做解析產(chǎn)生大量結(jié)構(gòu)化數(shù)據(jù)，再到數(shù)據(jù)庫環(huán)節(jié)匹配結(jié)果；而視覺和大數(shù)據(jù)的融合，將非結(jié)構(gòu)化的視頻和結(jié)構(gòu)化的數(shù)據(jù)庫做了融合，變成用一個(gè)模型統(tǒng)一解決，具體到操作，只需語音指揮即可，“過去10天A路口特別擁堵，請將該路口的攝像頭調(diào)取出來”。

換言之，大模型時(shí)代，當(dāng)數(shù)據(jù)從一端流入，結(jié)果就會(huì)從另一端直接流出。

于公安行業(yè)，將是一場警務(wù)信息化系統(tǒng)的大改造。

首先，大模型將帶來視頻智能化建設(shè)的重大轉(zhuǎn)變。

視頻智能化建設(shè)分兩種模式：一是圖片流，前端相機(jī)直接做智能化，然后把圖片回傳后端做進(jìn)一步分析，缺點(diǎn)是大量信息被丟失；一是視頻流，前端攝像頭負(fù)責(zé)捕捉，后端進(jìn)行視頻分析，雖然保留了視頻中的所有語義，行為能被完整刻畫，但由于沒有大模型的加持，視頻完整語義的價(jià)值并沒有被完全挖掘和使用。

走視頻流的智能化路線，是對客戶更加負(fù)責(zé)的選擇，“圖片流只能做人臉識別，隨著業(yè)務(wù)需求增長，圖片流建設(shè)模式就會(huì)變成斷頭路，只能換新相機(jī)；而視頻流對前端建設(shè)有利舊保護(hù)，只需后端升級算法即可?！?/p>

考慮到大模型只能部署在后端，未來視頻流智能化或?qū)⒊蔀橹髁鳌?/p>

其次，是IT基礎(chǔ)設(shè)施的重大變化。

前面已經(jīng)提到，傳統(tǒng)的信息化技術(shù)，通過前端攝像機(jī)會(huì)產(chǎn)生大量結(jié)構(gòu)化數(shù)據(jù)，結(jié)構(gòu)化數(shù)據(jù)存在數(shù)據(jù)庫里，數(shù)據(jù)庫則存在硬盤里。

大模型時(shí)代，所有數(shù)據(jù)經(jīng)過模型處理，會(huì)生成蘊(yùn)含對視頻語義完整理解的特征向量，特征向量存在向量數(shù)據(jù)庫里，向量數(shù)據(jù)庫存在顯存里。

在從傳統(tǒng)數(shù)據(jù)庫變到向量數(shù)據(jù)庫的過程中，基礎(chǔ)設(shè)施層面，也將從過去建CPU為主的數(shù)據(jù)庫系統(tǒng)，到建設(shè)GPU為主的向量搜索系統(tǒng)。

基于這一認(rèn)知，依圖在2022年發(fā)布了求實(shí)服務(wù)器。

對于這款服務(wù)器的誕生，許焰如此解釋：“進(jìn)入到向量時(shí)代，超融合架構(gòu)的服務(wù)器威力非常大，依圖求實(shí)服務(wù)器有一個(gè)最大的特點(diǎn)，內(nèi)存即顯存，因?yàn)榧幢?a class="article-link" target="_blank" href="/manufacturer/1000151/">英偉達(dá)的A100也只有40G的顯存，但求實(shí)服務(wù)器內(nèi)存可以到512G，甚至1T?！痹S焰介紹。

再者，從生產(chǎn)過程講，有了預(yù)訓(xùn)練大模型，用戶需求端到端的時(shí)間以及成本會(huì)被極大壓縮。

一方面，用大模型技術(shù)替代過去小模型，可以極大壓縮生產(chǎn)過程周期，降低算法研發(fā)成本，讓客戶更快享受到技術(shù)的紅利。

比如，當(dāng)用戶要做一個(gè)“騎電瓶車不戴頭盔”的需求時(shí)，AI公司需要先收集數(shù)據(jù)做訓(xùn)練，需求提出到滿足，至少一到兩個(gè)月。

有了預(yù)訓(xùn)練大模型后，只需輸入“騎電瓶車不帶頭盔”的指令，就能生成算法，一周時(shí)間即可達(dá)到之前一兩個(gè)月才有的效果，并且時(shí)間越長，模型精度越高。

另一方面，通過算法和算力的端到端的整合，也會(huì)帶來成本最小化。

許焰舉例，“過去做1萬路視頻智能化，得用16個(gè)機(jī)柜，現(xiàn)在算法和算力實(shí)現(xiàn)端到端整合后，只用一個(gè)機(jī)柜就可以解決所有問題，但整體成本下降了80%?！?/p>

最后，從業(yè)務(wù)層面講，傳統(tǒng)的指揮中心、移動(dòng)警務(wù)、偵查破案等都會(huì)發(fā)生重大變化。

比如指揮中心可以直接通過語音調(diào)取攝像頭，如“幫我調(diào)取所有公園的視頻”、“幫我調(diào)取所有現(xiàn)在擁堵路段的視頻”；移動(dòng)警務(wù)也將變成，民警在路上巡邏上時(shí)，不再需要在執(zhí)法儀上打字，而可以高效率地通過語音輸入指令，如“請查詢前方戴黑色帽子的人的身份?！?/p>

“新安防、真智能”，安防的下一個(gè)十年屬于智能

“依圖一直堅(jiān)信安防市場會(huì)從監(jiān)控走向智能?！?/p>

如果說依圖有什么明顯區(qū)別于其他公司的地方，就在于其始終認(rèn)可安防市場的價(jià)值，并用十年時(shí)間堅(jiān)守安防市場。

談到依圖對安防市場的貢獻(xiàn)，許焰滿是自豪：

“自2012年成立至今，在安防智能化發(fā)展的各個(gè)階段，依圖都代表業(yè)界最前沿水平。依圖之所以堅(jiān)信安防是個(gè)好市場，一個(gè)原因也在于依圖在安防市場做到了盈利，持續(xù)為客戶創(chuàng)造價(jià)值?！?/p>

這種價(jià)值具體表現(xiàn)為，時(shí)至今日，依圖是安防行業(yè)第一個(gè)推出可實(shí)戰(zhàn)可商用的多模態(tài)大模型的公司。

“第一個(gè)”寫起來雖然簡單，但對于依圖而言，背后是沉甸甸的付出。

2018年，依圖提出“新安防，真智能”的口號，至今未變。

彼時(shí)，視覺智能化快速發(fā)展，人臉識別開始進(jìn)入規(guī)?；涞仉A段。依圖的“新安防”口號，為公安業(yè)務(wù)流程的變革而發(fā)；“真智能”口號的提出，則強(qiáng)調(diào)了“真正的智能”給安防行業(yè)帶來的差異化的用戶價(jià)值。

進(jìn)入大模型時(shí)代，公安的業(yè)務(wù)流程、智能化程度躍遷到了新的階段，但依圖這句口號的內(nèi)核依然沒有變化。

真正讓人動(dòng)容之處在于，依圖并沒有淪為“口號專家”，而是將口號掛在了實(shí)際行動(dòng)上。

一直以來，客戶看似不合理的追求六個(gè)字：高價(jià)值、低成本。

滿足這個(gè)需求并不容易，尤其在AI這一有著極高技術(shù)和渠道門檻的賽道。

但依圖對這句話的信奉和踐行，是AI公司中難得一見的扎實(shí)。

支撐依圖“安防是好市場”背后的商業(yè)邏輯正是，追求價(jià)值最大化、成本最小化。

依圖2017年開始布局芯片板塊，2019年5月9日發(fā)布首款云端AI芯片“求索”，用于視覺推理領(lǐng)域。

當(dāng)時(shí)的發(fā)布會(huì)現(xiàn)場，依圖通過四塊“求索”芯片，實(shí)時(shí)比對現(xiàn)場觀眾，演示十分鐘內(nèi)，無一起誤報(bào)。

依圖之所以向上做芯片，在于看到了算法性能高速發(fā)展和機(jī)器算力提升緩慢的矛盾，這一矛盾導(dǎo)致AI公司們要么犧牲算法性能，削足適履；要么沒有先進(jìn)算法，空耗資源。

而隨著中美科技競爭的加劇，美國對中國芯片的封鎖制裁力度持續(xù)升級，國產(chǎn)化具有高性價(jià)比的芯片產(chǎn)品在此刻顯得尤為重要，依圖的選擇似乎又更具有前瞻性：做硬件和算法的端到端的整合，可以給用戶最高性價(jià)比的后端智能化產(chǎn)品。

如果說，以前因?yàn)槿狈y(tǒng)一的模型結(jié)構(gòu)導(dǎo)致芯片和算法公司難以匹配，在一定程度上說明人工智能芯片還不太成立，那么到今天，這個(gè)阻礙已經(jīng)消失了。

2019年，依圖開始投入以Transformer為基礎(chǔ)的大模型技術(shù)，如今回看這一決定，其意義在于，選對了公司未來幾年的發(fā)展路徑。

當(dāng)企業(yè)選擇的方向更準(zhǔn)確，研發(fā)的效率就會(huì)更高效，成本更低，對客戶而言就是更高的性價(jià)比，最終實(shí)現(xiàn)雙贏。

“到今天，依圖的多模態(tài)大模型已經(jīng)在全國30多個(gè)項(xiàng)目中部署應(yīng)用?！睋?jù)許焰介紹，依圖“天問”多模態(tài)大模型，有以下三大特點(diǎn)：

其一，視頻語義搜索能力，支持用自然語言搜索各類視頻。

類似“堵塞消防通道的車”、”積水的路面“、”無人看管的紅色行李箱“等表達(dá)都可以快速找出對應(yīng)的視頻。

其二，零樣本、冷啟動(dòng)。

比如要?jiǎng)?chuàng)建一個(gè)騎車不戴頭盔的算法，只需輸入“騎車不戴頭盔”，就能生成算法，并且算法一旦上線，便能在線上做分鐘級的訓(xùn)練，越用精度越高。

其三，內(nèi)置了大量凝結(jié)依圖對行業(yè)認(rèn)知的算法。

通過針對性的將特定數(shù)據(jù)放入訓(xùn)練模型中，如大客流、重點(diǎn)區(qū)域防控等典型算法，來提高模型性能。

今年以來，依圖的天問大模型收到不少令許焰印象深刻的反饋。

某城市交通事故頻發(fā)，該市客戶找到依圖做城市路口的常規(guī)違章和不文明行為判定，要求用天問大模型賦能利舊的前端攝像頭。

依圖做了闖紅燈、超速、不禮讓行人、騎車不戴安全帽、違法掉頭、壓實(shí)線等各種各樣的算法，系統(tǒng)上線第一天，準(zhǔn)確度只有60%-70%，一周結(jié)束后精度基本達(dá)到100%，并且成本比以往的建設(shè)成本下降了 60% - 70%。

在許焰的回憶中，“當(dāng)時(shí)這個(gè)客戶特別興奮，因?yàn)橐缊D用一周時(shí)間，解決了該城市交通治理極大的痛點(diǎn)?！?/strong>