1774
近來(lái)，伴隨ChatGPT4、百度文心一言等大模型的接連發(fā)布，AIGC賽道的熱度持續(xù)攀升，成為科技界最熱的風(fēng)口之一。各大廠商忙著搶占大模型高地，資本市場(chǎng)也表現(xiàn)出極大的熱情，相關(guān)投融資熱度開(kāi)始飆升。比如，由李開(kāi)復(fù)創(chuàng)新工場(chǎng)孵化的AI企業(yè)——瀾舟科技剛成立不久，就推出了中文語(yǔ)言模型——孟子輕量大模型，近日火速完成了Pre-A+輪融資。前京東高管周伯文創(chuàng)立的銜遠(yuǎn)科技也已完成數(shù)億元天使輪融資。
知其安創(chuàng)始人聶君在接受記者采訪時(shí)指出，ChatGPT或?qū)?lái)一些全新的產(chǎn)業(yè)安全隱患。首先是數(shù)據(jù)安全隱患?！昂芏嘤脩粼谠囉眠^(guò)程中，會(huì)把一些像代碼這樣的敏感信息放到這里面去。ChatGPT所有這些服務(wù)器、數(shù)據(jù)都是保存在國(guó)外，這些敏感數(shù)據(jù)也將被保存在國(guó)外，這是目前我們看到的一個(gè)比較大的風(fēng)險(xiǎn)?！彼f(shuō)道。
第二，ChatGPT為用戶提供的結(jié)果并不具備驗(yàn)真或者驗(yàn)偽的作用，如果直接拿ChatGPT結(jié)果來(lái)做相應(yīng)的安全結(jié)果的確認(rèn)，也會(huì)帶來(lái)一些隱患的問(wèn)題。“從攻擊者角度來(lái)講，ChatGPT會(huì)帶來(lái)更多攻擊者效率提升，”騰訊安全策略發(fā)展中心總經(jīng)理呂一平對(duì)記者說(shuō)道，“特別在詐騙場(chǎng)景下，或者在釣魚(yú)場(chǎng)景下，安全專(zhuān)業(yè)領(lǐng)域有一個(gè)用詞叫‘社攻’，指社交攻擊的方式，就是通過(guò)跟你聊天，或者郵件溝通，誘使你去點(diǎn)擊惡意鏈接，或者會(huì)在毫不感知情況下下載了一些惡意軟件或者工具，可能會(huì)感染你的電腦或者偷竊你的數(shù)據(jù)。原來(lái)像這種怎么做角色扮演，怎么做釣魚(yú)劇本，需要有人扮演一個(gè)角色，肯定有一套說(shuō)辭和口徑，現(xiàn)在有了ChatGPT，就可以通過(guò)人工智能的方式來(lái)做劇本設(shè)計(jì)?！?/p>
以前，如果人工做這樣一個(gè)劇本設(shè)計(jì)，其實(shí)花很長(zhǎng)時(shí)間去做，因?yàn)?a class="article-link" target="_blank" href="/baike/521558.html">網(wǎng)絡(luò)攻擊者要深入理解對(duì)方工作，要扮演HR、保險(xiǎn)公司業(yè)務(wù)員等角色還需要對(duì)這些業(yè)務(wù)有比較清晰的了解。現(xiàn)在，通過(guò)ChatGPT可以大幅度提升劇本設(shè)計(jì)效率。
根據(jù)經(jīng)驗(yàn)，以往社交誘騙中角色比較多，以前是HR、財(cái)務(wù)、保險(xiǎn)、銀行業(yè)務(wù)員等，但是未來(lái)場(chǎng)景下可能更多不同的設(shè)計(jì)角色出現(xiàn)，在ChatGPT的效率輔助下，會(huì)引發(fā)這種釣魚(yú)攻擊產(chǎn)生更多多樣化角色、誘騙手段。
呂一平指出，安全是一個(gè)伴生屬性，新技術(shù)的產(chǎn)生和應(yīng)用一定會(huì)帶來(lái)新的安全風(fēng)險(xiǎn)。對(duì)于我們做安全專(zhuān)業(yè)領(lǐng)域這個(gè)方向上面的同仁來(lái)講，大家是始終關(guān)注新的技術(shù)發(fā)展，因?yàn)樾录夹g(shù)發(fā)展帶來(lái)新的風(fēng)險(xiǎn)，是需要我們應(yīng)對(duì)的。
不過(guò)，聶君表示，目前確實(shí)也有不少安全行業(yè)從業(yè)者使用ChatGPT文檔編寫(xiě)、材料整理這方面提升效率，或者把原先通過(guò)人工來(lái)完成的一些相對(duì)比較中低端的技術(shù)活會(huì)交給ChatGPT來(lái)做，比如解析日志、編寫(xiě)一些安全運(yùn)營(yíng)的策略等，在這些方面，ChatGPT對(duì)于產(chǎn)業(yè)安全也是具備一定的積極作用的。
在企業(yè)上云大趨勢(shì)下，云原生安全的重要性愈發(fā)凸顯。對(duì)于企業(yè)而言，要做安全建設(shè)首先是要滿足業(yè)務(wù)需求，然后要考慮如何能夠更好設(shè)計(jì)安全結(jié)構(gòu)、安全體系、安全能力建設(shè)，更好滿足這個(gè)業(yè)務(wù)的需求。這其實(shí)是一個(gè)很復(fù)雜的過(guò)程，可能需要通過(guò)不同安全廠商提供不同的安全產(chǎn)品和服務(wù)，來(lái)滿足這個(gè)需求。這對(duì)很多企業(yè)來(lái)講是一個(gè)很大的功課。
“云原生安全就是把安全做成一種云服務(wù)的形態(tài)提供給上云的企業(yè)，”呂一平建議稱(chēng)。尤其對(duì)于中小企業(yè)而言，可以通過(guò)合理的成本實(shí)現(xiàn)比較好的安全防護(hù)能力建設(shè)，讓“安全”從一個(gè)奢侈品變成一個(gè)必需品。
聶君認(rèn)為，安全從來(lái)不是獨(dú)立存在，而是跟整個(gè)IT基礎(chǔ)設(shè)施、研發(fā)結(jié)構(gòu)相關(guān)的。很多安全問(wèn)題做到最后，從根本上來(lái)看，是底層架構(gòu)限制和制約了安全問(wèn)題的解決。當(dāng)前，由于云本身的整個(gè)IT基礎(chǔ)結(jié)構(gòu)發(fā)生了革命性的變化，在這個(gè)變化過(guò)程當(dāng)中，需要把安全的能力嵌入到云環(huán)境里面，云原生安全解決方案將會(huì)帶來(lái)比較革命性一些變化。
