本年，人工智能項目 AlphGo 和 Libratus 分離在圍棋和德州撲克兩個范疇克服了世界上最好的人類選手。固然這些里程碑事宜顯示了近年人工智能的成長水平，很多人依然對新興技巧全體的成熟水平抱有疑惑——特別是斟酌到曩昔 12 個月中涌現(xiàn)的一些人工智能的掉誤案例。

　　機械之能是機械智能的鐵桿粉絲，這從我們的名字中便可見一斑。然則異樣，我們非常清晰地熟悉到，一些新技巧其實不能有用地履行本身原來的義務(wù)，經(jīng)常會犯一些人類從不會犯的毛病。以下是我們遴選出來的 2017 年人工智能掉誤事宜 Top 10。

　　面具解鎖 Face ID

　　Face ID，一種用來解鎖最新款 iPhone 的臉部辨認(rèn)技巧，一度被稱為迄今為止最平安的人工智能激活辦法。蘋果公司曾夸口稱 Face ID 的解鎖掉誤率僅為百萬分之一。然則隨后越南公司 BKAV 應(yīng)用了由 3D 打印的塑料、硅膠、化裝品和一些剪紙制成的面具就勝利破解了 Face ID，而面具的造價只要 150 美元。BKAV 只是掃描了測試對象的面部，應(yīng)用 3D 打印機生成了一個面部模子，貼上了一些剪紙眼睛、嘴巴和硅膠做的鼻子。Face ID 的破解給全部行業(yè)帶來了沖擊，加重了抵消費者裝備隱私的風(fēng)險和更廣泛的人工智能技巧平安性的考量。

　　Amazon Echo 毛病激發(fā)鄰人報警

　　比來年夜受迎接的 Amazon Echo 被以為是加倍壯大的智能揚聲器之一。然則沒有器械是完善的。一位德國須眉的 Echo 在其外出時代被不測叫醒，并在子夜開端年夜聲地播放音樂，吵醒了鄰人。鄰人報了警，警員不能不打破前門才把 Echo 封閉。過后警員改換了門鎖，房子的主人回家時發(fā)明本身的鑰匙曾經(jīng)打不開本身的房門了。

　　Facebook 封閉聊天機械人

　　本年 7 月，媒體漫山遍野地報導(dǎo)，兩個 Facebook 的聊天機械人以人類沒法辨認(rèn)的語音互相溝通，發(fā)明后被關(guān)停。關(guān)于新的機密超等智能說話的流言吞沒了各年夜網(wǎng)站，直到 Facebook 出來說明，這類奧秘的交換只是語法編譯不力形成的成果，這場風(fēng)浪才逐漸停息。

　　拉斯維加斯的主動駕駛巴士上路第一天就產(chǎn)生變亂

　　本年 11 月，一輛主動駕駛巴士在拉斯維加斯華美表態(tài)，包含常駐拉斯維加斯的魔術(shù)明星 Penn & Teller 在內(nèi)的浩瀚名人爭相列隊試乘。然后，僅僅在兩個小時后，這輛公交車就和一輛貨車相撞。雖然從技巧角度來看，公交車不必為此次事宜擔(dān)任——據(jù)警方所說，貨車司機才應(yīng)當(dāng)為此次事宜擔(dān)任——然則這輛智能巴士上的乘客照樣埋怨說，公車照樣不敷智能，卡車漸漸接近的時刻，它沒法解脫風(fēng)險。

　　Google Allo 用頭巾臉色回應(yīng)槍枝臉色

　　美國有線電視消息網(wǎng)的員工應(yīng)用 Google Allo 時收到了一個帶有頭巾的人的臉色建議。而這個臉色是由于一個手槍臉色觸發(fā)的答復(fù)建議。谷歌為難地向"包管，成績曾經(jīng)獲得處理，并向"報歉。

　　雙胞胎騙過了匯豐銀行的聲紋辨認(rèn) ID

　　匯豐銀行的聲紋辨認(rèn) ID 是一個以人工智能為焦點的平安體系，許可用戶經(jīng)由過程語音敕令拜訪本身的賬戶。雖然匯豐銀行宣稱這套體系和指紋 ID 一樣平安，然則 BBC 的一位記者的雙胞胎兄弟卻能經(jīng)由過程模擬聲響拜訪他的賬戶。試驗測驗考試了 7 次才勝利。匯豐立刻給出懂得決計劃，登錄掉敗三次后即鎖定賬戶。

　　Google 人工智能把步槍錯以為直升機

　　經(jīng)由過程稍微調(diào)劑步槍的照片，麻省理工學(xué)院的研討小構(gòu)成功誘騙了 Google Cloud Vision API，讓它將步槍照片錯以為直升機。這個技能，也叫反抗樣本，是盤算機經(jīng)由過程停止人眼沒法發(fā)覺的修正從而使圖象分類涌現(xiàn)毛病。此前，假如黑客曉得目的盤算體系的根本機制，這類反抗樣本才會起效。麻省理工學(xué)院的團(tuán)隊經(jīng)由過程觸發(fā)毛病分類不必取得體系信息，改良了反抗樣本。

　　路牌黑客捉弄了主動駕駛汽車

　　研討人員發(fā)明，用油漆和膠帶對停滯標(biāo)記作出不起眼的修正，他們便可以使主動駕駛汽車對這些標(biāo)記毛病分類。用「love」和「hate」如許的單詞修正停滯標(biāo)記，就誘騙了一輛主動駕駛汽車的進(jìn)修體系。測試集中，主動駕駛汽車的進(jìn)修體系 100% 將這些泊車標(biāo)記識別為「限速 45」。

　　AI 想象了一片「銀行臀部」色彩的斜陽

　　機械進(jìn)修研討人員 Janelle Shan 練習(xí)了一個神經(jīng)收集，用來生成新的油漆色彩和給每種色彩起一個婚配的名字。這些色彩能夠看起來異常舒暢，可這些名字卻使人捧腹。應(yīng)用色彩稱號數(shù)據(jù)停止大批練習(xí)以后，這個模子依然會將「天藍(lán)色」標(biāo)志為「Gray Pubic」，把深綠色標(biāo)志為「Stoomy Brown」。

　　對 Alexa 許愿要當(dāng)心，說不定一不留心就下單了

　　亞馬遜 Alexa 的虛擬助理可使網(wǎng)上購物更輕易。然則是否是太輕易了？1 月份，圣地亞哥消息頻道 CW6 報導(dǎo)，一個六歲的女孩僅僅和 Alexa 說愿望要一個玩具小屋，所以她就經(jīng)由過程 Alexa 花了 170 美元買了一個玩具屋。據(jù)稱，當(dāng)電視播出時，掌管人反復(fù)了這個女孩的話，說：「我愛好這個小女孩說的話，'Alexa 給我買了一個玩具小屋'，」一些不雅眾家里的 Alexa 裝備再次被觸發(fā)，然后下單購置了一個玩具屋，不外這個說法的真實性依然有待查證。