（朱啟超 國防科技年夜學(xué)國度平安與軍事計(jì)謀研討所所長(zhǎng)）

　　進(jìn)入21世紀(jì)，信息技巧、新資料技巧、新動(dòng)力技巧、先輩制作技巧等范疇的成長(zhǎng)沖破，驅(qū)動(dòng)著人工智能的第三次海潮囊括全球，塑造著科技反動(dòng)、家當(dāng)反動(dòng)和軍事反動(dòng)的極新面孔，惹起很多國度的高度看重。最近幾年來，人們?cè)诮蚪蛴形度斯ぶ悄軒頍o窮成長(zhǎng)機(jī)會(huì)的同時(shí)，官場(chǎng)首腦、學(xué)界年夜咖、科技年夜佬等也紛紜表達(dá)了對(duì)人工智能能夠帶來平安挑釁的擔(dān)心。好比，俄總統(tǒng)普京以為人工智能是全部人類的將來，它將為人類供給偉大機(jī)會(huì)，但同時(shí)也存在某些沒法猜測(cè)的威逼。霍金生前曾呼吁人類須要掌握以人工智能為代表的新興科技，以避免它們?cè)趯砟軌驅(qū)θ祟惿?jì)帶來撲滅性威逼。馬斯克宣稱人工智能是關(guān)系人類文明生死的最年夜威逼，而馬云則在一次地下演講中以為，跟著人工智能逐步祛除人類任務(wù)崗?fù)ぃ軌蛞谌问澜缒暌箲?zhàn)。

　　這些擔(dān)心究竟是為了吸引眼球而聳人聽聞，照樣心胸悲憫而庸人自擾？究竟應(yīng)若何客不雅對(duì)待人工智能能夠帶來的平安挑釁？筆者以為，人們關(guān)于人工智能的平安擔(dān)心是因?yàn)槿斯ぶ悄茏约旱募记升嬰s性、科幻顏色和運(yùn)用理論的初始性形成的，是必定階段人們對(duì)人工智能深刻認(rèn)知的折射反應(yīng)。

　　人工智能本是個(gè)外來詞，來自英語artificial intelligence的翻譯。廣義的人工智能是指機(jī)械人及其相干技巧，狹義的人工智能則是指可以或許模仿、延長(zhǎng)、替換人的行動(dòng)的相干技巧。這類界說方法其實(shí)為我們懂得人工智能帶來了技巧上的難度。從廣義來看，機(jī)械人相干技巧就包含了機(jī)械人設(shè)計(jì)制作、形式辨認(rèn)、交換進(jìn)修等許多方面。從狹義來看，任何只需是可以或許模仿、延長(zhǎng)、替換人的行動(dòng)的相干技巧都可以為是人工智能技巧，好比模仿人的思想推理、人的五感交互、人的行動(dòng)形式等技巧。是以，不管是廣義照樣狹義都可以看出，人工智能不是一項(xiàng)單一的技巧，而是多項(xiàng)技巧組成的龐雜系統(tǒng)。這就為我們懂得人工智能及其能夠激發(fā)的平安成績(jī)帶來的艱苦，乃至因?yàn)殛P(guān)于技巧的不懂得形成了關(guān)于人工智能想象中的平安擔(dān)心或認(rèn)知黑洞。

　　人工智能的技巧特征決議了人工智能具有光鮮的科幻顏色。《太空遨游》《異形》《機(jī)械姬》《終結(jié)者》等與人工智能相干的科幻年夜片許多，給人們留下了深入印象，也供給了豐碩的想象空間。因?yàn)殛P(guān)于技巧細(xì)節(jié)缺少懂得，關(guān)于將來的無窮向往，關(guān)于未知世界的天性恐怖，招致人們關(guān)于人工智能及其能夠發(fā)生的平安挑釁有了更多的想象，乃至走向人工智能終將撲滅人類這類極端。

　　從1956年人工智能概念的提出，半個(gè)多世紀(jì)曩昔，人們迎來了人工智能成長(zhǎng)的第三次海潮。這一次海潮最年夜的特色是人工智能激發(fā)科技反動(dòng)、家當(dāng)反動(dòng)、軍事反動(dòng)的交錯(cuò)并進(jìn)，激起了人工智能成長(zhǎng)的微弱動(dòng)力。但即使如斯，人工智能不管是從科技立異自己，照樣家當(dāng)業(yè)態(tài)和軍事運(yùn)用的理論，都照樣處于一種遠(yuǎn)未成熟的低級(jí)階段，許多科技根源成績(jī)、實(shí)際辦法成績(jī)和立異成長(zhǎng)形式亟待獲得沖破。好比，人工智能相干腦迷信研討仍有年夜片空白，人機(jī)共生的相干實(shí)際還未樹立，人工智能家當(dāng)生態(tài)還不完美，等等。

　　客不雅對(duì)待人工智能能夠帶來的平安挑釁，是我們懂得人工智能、成長(zhǎng)人工智能、管控人工智能的條件。人工智能自己成長(zhǎng)的上述特色，為人們懂得人工智能帶來了難度乃至妨礙。客不雅對(duì)待人工智能能夠帶來的平安挑釁，起首須要建立準(zhǔn)確的思想理念。

　　一是要秉承迷信的立場(chǎng)。人工智能帶來的平安挑釁既能夠來自于技巧不成熟，也有能夠因?yàn)楣べY治理管控上的疏掉，必需用迷信的立場(chǎng)，停止量力而行的剖析。普通來講，人工智能激發(fā)的平安成績(jī)可以分為三個(gè)條理：一是某行業(yè)某范疇或某體系內(nèi)平安操作規(guī)程治理方面的平安風(fēng)險(xiǎn)；二是國度平安層面臨于政治、經(jīng)濟(jì)、金融、科技、國防等范疇?zhēng)淼钠桨蔡翎叄蝗且驗(yàn)槿斯ぶ悄芗记傻目鐕鴳?yīng)用激發(fā)的收集平安、太空平安、核平安、反恐行為甚至國際平安管理等方面的挑釁。人工智能在分歧層面帶來的平安挑釁具有分歧的特色及應(yīng)對(duì)請(qǐng)求，需賜與差別看待，而不克不及一鍋煮乃至張冠李戴。

　　二是要保持成長(zhǎng)的立場(chǎng)。整體上看，人工智能帶來的平安挑釁仍處于可控的規(guī)模，人們對(duì)人工智能將來成長(zhǎng)的擔(dān)心，重要在于人工智能作為一項(xiàng)技巧能夠觸發(fā)更多的平安成績(jī)。另外一方面，人類作為這個(gè)星球上智力水面最高的靈長(zhǎng)類生物，一旦人類創(chuàng)造的人工智能超出了人類本身，將弗成防止地激發(fā)對(duì)將來的天性的驚恐。汗青上，每次工業(yè)反動(dòng)或技巧反動(dòng)的到來早期，因?yàn)槿藗冴P(guān)于技巧的認(rèn)知與理論體驗(yàn)絕對(duì)缺少，都曾激發(fā)過必定水平的驚恐。

　　好比第一次工業(yè)反動(dòng)早期作坊工人關(guān)于機(jī)械的抵抗與損壞，第二次工業(yè)反動(dòng)早期人們關(guān)于電力應(yīng)用欠妥形成人員傷亡的驚恐。作為賡續(xù)成長(zhǎng)演進(jìn)的人類文明的產(chǎn)品，須要我們用成長(zhǎng)的眼力對(duì)待人工智能的正面感化和能夠激發(fā)的平安挑釁，既充足施展人工智能的潛力造福人類，又可以或許有備無患管控人工智能能夠激發(fā)的平安危機(jī)。當(dāng)人們?cè)绞强梢曰蛟S客不雅對(duì)待人工智能帶來的平安挑釁，就越可以或許開拓人工智能平安科技與平安家當(dāng)立異的藍(lán)海。

　　三是要保持協(xié)作的立場(chǎng)。人工智能技巧與信息技巧的成長(zhǎng)慎密相干，特別是挪動(dòng)寬帶通訊、年夜數(shù)據(jù)、云盤算、物聯(lián)網(wǎng)等范疇的技巧沖破，將增進(jìn)人工智能相干技巧和家當(dāng)?shù)某墒臁募记商厣矗斯ぶ悄芘c信息技巧相似，都具有低本錢、易分散、難封控的特點(diǎn)，而且技巧一旦成熟，市場(chǎng)的邊沿本錢將年夜年夜下降，乃至被以為屬于“零邊沿本錢”的技巧。這使得人工智能能夠激發(fā)的平安成績(jī)也將具有易分散、難封控的特色。好比，若監(jiān)管缺掉，一個(gè)黑客就有能夠應(yīng)用新的人工智能算法及入侵技巧損壞一個(gè)國度的電網(wǎng)、公共交通批示收集等的正常運(yùn)轉(zhuǎn)，激發(fā)年夜面積的災(zāi)害性效果，乃至殃及無辜。

　　從實(shí)際上說，社會(huì)信息化智能化程度越高，將會(huì)關(guān)于技巧系統(tǒng)越發(fā)依附，而一旦原本的技巧系統(tǒng)遭到?jīng)_擊，將發(fā)生新的不肯定性和軟弱性。在信息技巧、人工智能技巧等年夜成長(zhǎng)的時(shí)期，我們面對(duì)的平安挑釁出現(xiàn)出技巧龐雜性、系統(tǒng)軟弱性的兩重特點(diǎn)。正因如斯，必需保持開放協(xié)作的立場(chǎng)，國度當(dāng)局部分、社會(huì)行業(yè)范疇及國民個(gè)別等應(yīng)配合增強(qiáng)對(duì)人工智能的技巧認(rèn)知和理論體驗(yàn)，配合應(yīng)對(duì)人工智能能夠帶來平安挑釁，那些“大家自掃門前雪”獨(dú)善其身的設(shè)法主意已與這個(gè)時(shí)期愈來愈脫節(jié)。

　　總之，關(guān)于人工智能新的成長(zhǎng)海潮，既不克不及只看到其利而自覺追捧，也不克不及由于其潛伏的平安威逼而踟躇不前。必需客不雅熟悉人工智能的成長(zhǎng)運(yùn)用，假如人們可以或許在將來的理論中賡續(xù)防止對(duì)人工智能相干平安成績(jī)的誤會(huì)、誤判和誤用，人類依然可以或許掌控本身的命運(yùn)。