產(chǎn)業(yè)觀察｜ChatGPT或?qū)⒁l(fā)新的安全隱患

近來，伴隨ChatGPT4、百度文心一言等大模型的接連發(fā)布，AIGC賽道的熱度持續(xù)攀升，成為科技界最熱的風(fēng)口之一。各大廠商忙著搶占大模型高地，資本市場也表現(xiàn)出極大的熱情，相關(guān)投融資熱度開始飆升。比如，由李開復(fù)創(chuàng)新工場孵化的AI企業(yè)——瀾舟科技剛成立不久，就推出了中文語言模型——孟子輕量大模型，近日火速完成了Pre-A+輪融資。前京東高管周伯文創(chuàng)立的銜遠(yuǎn)科技也已完成數(shù)億元天使輪融資。

知其安創(chuàng)始人聶君在接受記者采訪時指出，ChatGPT或?qū)硪恍┤碌漠a(chǎn)業(yè)安全隱患。首先是數(shù)據(jù)安全隱患?！昂芏嘤脩粼谠囉眠^程中，會把一些像代碼這樣的敏感信息放到這里面去。ChatGPT所有這些服務(wù)器、數(shù)據(jù)都是保存在國外，這些敏感數(shù)據(jù)也將被保存在國外，這是目前我們看到的一個比較大的風(fēng)險?！彼f道。

第二，ChatGPT為用戶提供的結(jié)果并不具備驗真或者驗偽的作用，如果直接拿ChatGPT結(jié)果來做相應(yīng)的安全結(jié)果的確認(rèn)，也會帶來一些隱患的問題。“從攻擊者角度來講，ChatGPT會帶來更多攻擊者效率提升，”騰訊安全策略發(fā)展中心總經(jīng)理呂一平對記者說道，“特別在詐騙場景下，或者在釣魚場景下，安全專業(yè)領(lǐng)域有一個用詞叫‘社攻’，指社交攻擊的方式，就是通過跟你聊天，或者郵件溝通，誘使你去點擊惡意鏈接，或者會在毫不感知情況下下載了一些惡意軟件或者工具，可能會感染你的電腦或者偷竊你的數(shù)據(jù)。原來像這種怎么做角色扮演，怎么做釣魚劇本，需要有人扮演一個角色，肯定有一套說辭和口徑，現(xiàn)在有了ChatGPT，就可以通過人工智能的方式來做劇本設(shè)計?！?/p>

以前，如果人工做這樣一個劇本設(shè)計，其實花很長時間去做，因為網(wǎng)絡(luò)攻擊者要深入理解對方工作，要扮演HR、保險公司業(yè)務(wù)員等角色還需要對這些業(yè)務(wù)有比較清晰的了解。現(xiàn)在，通過ChatGPT可以大幅度提升劇本設(shè)計效率。

根據(jù)經(jīng)驗，以往社交誘騙中角色比較多，以前是HR、財務(wù)、保險、銀行業(yè)務(wù)員等，但是未來場景下可能更多不同的設(shè)計角色出現(xiàn)，在ChatGPT的效率輔助下，會引發(fā)這種釣魚攻擊產(chǎn)生更多多樣化角色、誘騙手段。

呂一平指出，安全是一個伴生屬性，新技術(shù)的產(chǎn)生和應(yīng)用一定會帶來新的安全風(fēng)險。對于我們做安全專業(yè)領(lǐng)域這個方向上面的同仁來講，大家是始終關(guān)注新的技術(shù)發(fā)展，因為新技術(shù)發(fā)展帶來新的風(fēng)險，是需要我們應(yīng)對的。

不過，聶君表示，目前確實也有不少安全行業(yè)從業(yè)者使用ChatGPT文檔編寫、材料整理這方面提升效率，或者把原先通過人工來完成的一些相對比較中低端的技術(shù)活會交給ChatGPT來做，比如解析日志、編寫一些安全運(yùn)營的策略等，在這些方面，ChatGPT對于產(chǎn)業(yè)安全也是具備一定的積極作用的。

在企業(yè)上云大趨勢下，云原生安全的重要性愈發(fā)凸顯。對于企業(yè)而言，要做安全建設(shè)首先是要滿足業(yè)務(wù)需求，然后要考慮如何能夠更好設(shè)計安全結(jié)構(gòu)、安全體系、安全能力建設(shè)，更好滿足這個業(yè)務(wù)的需求。這其實是一個很復(fù)雜的過程，可能需要通過不同安全廠商提供不同的安全產(chǎn)品和服務(wù)，來滿足這個需求。這對很多企業(yè)來講是一個很大的功課。

“云原生安全就是把安全做成一種云服務(wù)的形態(tài)提供給上云的企業(yè)，”呂一平建議稱。尤其對于中小企業(yè)而言，可以通過合理的成本實現(xiàn)比較好的安全防護(hù)能力建設(shè)，讓“安全”從一個奢侈品變成一個必需品。

聶君認(rèn)為，安全從來不是獨(dú)立存在，而是跟整個IT基礎(chǔ)設(shè)施、研發(fā)結(jié)構(gòu)相關(guān)的。很多安全問題做到最后，從根本上來看，是底層架構(gòu)限制和制約了安全問題的解決。當(dāng)前，由于云本身的整個IT基礎(chǔ)結(jié)構(gòu)發(fā)生了革命性的變化，在這個變化過程當(dāng)中，需要把安全的能力嵌入到云環(huán)境里面，云原生安全解決方案將會帶來比較革命性一些變化。