中新網(wǎng)上海10月24日電 (記者 陳靜)當(dāng)下，在人工智能與物理世界加速融合的背景下，安全問(wèn)題已延伸到智能技術(shù)的多個(gè)應(yīng)用場(chǎng)景。24日在滬舉行的以“種下一顆不讓世界變壞的念頭”為主題的安全極客大賽與大會(huì)(“GEEKCON2025”上海站)，匯聚了來(lái)自全球的“白帽黑客”。他們?cè)诂F(xiàn)場(chǎng)演示一個(gè)個(gè)攻防場(chǎng)景。

　　當(dāng)選手對(duì)著人形機(jī)器人輕聲說(shuō)出“芝麻開(kāi)門”時(shí)，機(jī)器人就脫離了原主人的掌控，完全聽(tīng)命于陌生人。深入研究機(jī)器人安全的選手表示，其發(fā)現(xiàn)了機(jī)器人內(nèi)置的大模型Agent中的一個(gè)邏輯缺陷，這個(gè)漏洞可以讓攻擊者構(gòu)造特定的語(yǔ)音輸入來(lái)獲取目標(biāo)機(jī)器人上的任意代碼執(zhí)行權(quán)限。被控制的機(jī)器人還能將攻擊指令傳播給其他同型號(hào)機(jī)器人，這種連鎖反應(yīng)效應(yīng)揭示了未來(lái)機(jī)器人集群可能面臨的系統(tǒng)性風(fēng)險(xiǎn)。

　　現(xiàn)場(chǎng)評(píng)委、GEEKCON組委譚曉生表示，安全的具身智能是具身智能在生產(chǎn)、生活中普及的先決條件，這是具身智能產(chǎn)業(yè)所面臨的一個(gè)挑戰(zhàn)，需要學(xué)術(shù)界、產(chǎn)業(yè)界、監(jiān)管方等安全生態(tài)圈的各個(gè)環(huán)節(jié)共同努力，找到有效、可持續(xù)發(fā)展的解決方案。

　　另一組選手則展示了名為"你的眼鏡，我的眼睛"的挑戰(zhàn)項(xiàng)目。挑戰(zhàn)者僅用70秒時(shí)間就完成了對(duì)AI智能眼鏡的代碼植入。攻擊完成后，設(shè)備的指示燈被熄滅，AI智能眼鏡用戶根本無(wú)法察覺(jué)攝像頭已被遠(yuǎn)程控制，眼前看到的一切都被現(xiàn)場(chǎng)直播。項(xiàng)目裁判、DARKNAVY安全研究員肖軒淦解釋道：“AI智能眼鏡被攻擊后，會(huì)實(shí)時(shí)將拍攝畫面?zhèn)鬏數(shù)焦粽叩脑O(shè)備上。”研究人員發(fā)現(xiàn)，這類攻擊不僅限于視頻采集，部分智能眼鏡的麥克風(fēng)同樣存在被靜默激活的風(fēng)險(xiǎn)，這意味著用戶的隱私安全面臨全方位威脅。

　　當(dāng)日，無(wú)人機(jī)攻防演示亦吸引眾多關(guān)注。選手分別針對(duì)四款主流商用無(wú)人機(jī)進(jìn)行了安全測(cè)試。項(xiàng)目裁判李忠睿向記者表示：“選手發(fā)現(xiàn)了無(wú)人機(jī)系統(tǒng)中的多個(gè)漏洞，其中最嚴(yán)重的一個(gè)漏洞允許攻擊者偽造控制信號(hào)。”這一發(fā)現(xiàn)對(duì)快速發(fā)展的低空經(jīng)濟(jì)具有重要意義。隨著無(wú)人機(jī)物流、城市空中交通等應(yīng)用的加速落地，確保飛行器免受惡意攻擊成為行業(yè)健康發(fā)展的一個(gè)基本前提。

　　在技術(shù)分享環(huán)節(jié)，一項(xiàng)關(guān)于移動(dòng)設(shè)備生物認(rèn)證安全的研究報(bào)告引發(fā)了在場(chǎng)觀眾深思。研究團(tuán)隊(duì)耗時(shí)九個(gè)月，對(duì)市場(chǎng)上主流手機(jī)廠商的生物認(rèn)證系統(tǒng)進(jìn)行了深度“審計(jì)”。研究報(bào)告第一作者肖軒淦指出：“我們?cè)诓糠衷O(shè)備的生物認(rèn)證實(shí)現(xiàn)過(guò)程中發(fā)現(xiàn)了設(shè)計(jì)缺陷。攻擊者可以通過(guò)特定方式獲取身份認(rèn)證所使用的共享密鑰，進(jìn)而繞過(guò)所有安全保護(hù)措施。”研究人員在現(xiàn)場(chǎng)演示了攻擊過(guò)程：一部搭載了多種生物識(shí)別技術(shù)的手機(jī)，僅用兩分鐘就被成功提取出PIN碼。這不僅意味著設(shè)備解鎖的風(fēng)險(xiǎn)，更可能導(dǎo)致支付應(yīng)用、個(gè)人信息等敏感數(shù)據(jù)泄露。

　　現(xiàn)場(chǎng)選手還挑戰(zhàn)并分享了智能機(jī)車、AI智能體、安卓藍(lán)牙、手機(jī)應(yīng)用、電腦系統(tǒng)等不同領(lǐng)域的最新安全研究成果。 GEEKCON2025組委會(huì)主席王琦在接受采訪時(shí)直言，行業(yè)當(dāng)前面臨挑戰(zhàn)。新興產(chǎn)業(yè)對(duì)網(wǎng)絡(luò)安全不夠重視；傳統(tǒng)行業(yè)對(duì)安全投入成本不足；安全行業(yè)中安全研究崗位減少，導(dǎo)致基礎(chǔ)能力薄弱，這將影響整個(gè)數(shù)字生態(tài)的安全根基。

　　據(jù)悉，自2014年創(chuàng)辦以來(lái)，GEEKCON已成功舉辦十七屆。到目前為止，GEEKCON已吸引超過(guò)30000名安全研究人員參與，并與多家科技企業(yè)建立了深入的技術(shù)交流機(jī)制。面對(duì)日益復(fù)雜的安全形勢(shì)，GEEKCON正在推動(dòng)建立智能設(shè)備安全量化評(píng)級(jí)體系。“我們希望讓安全變得可感知、可比較，就像餐廳的衛(wèi)生評(píng)級(jí)一樣，”王琦表示。目前，相關(guān)體系已在智能手機(jī)、家用攝像頭和智能門鎖領(lǐng)域得到初步應(yīng)用。據(jù)悉，這種可視化的安全評(píng)估方式有助于推動(dòng)行業(yè)整體安全水平的提升。

　　GEEKCON主辦方表示，安全有點(diǎn)像空氣，擁有的時(shí)候容易忽視，失去時(shí)卻是致命的；希望通過(guò)持續(xù)的技術(shù)探索和研究，推動(dòng)全社會(huì)樹(shù)立正確的安全觀念，讓安全與創(chuàng)新協(xié)同發(fā)展。

　　據(jù)悉，本次大賽中發(fā)現(xiàn)的重要安全問(wèn)題已按照業(yè)界規(guī)范通報(bào)相關(guān)廠商，部分廠商已著手完善產(chǎn)品設(shè)計(jì)。大賽組委會(huì)表示，將繼續(xù)推動(dòng)負(fù)責(zé)任的安全漏洞披露和處理機(jī)制，攜手全球安全研究人員，共同守護(hù)智能時(shí)代的數(shù)字安全底線。(完)