面對疫情下的人類行為(wèi)，AI迷惑！數據變化引起的林匠工(gōng)作“異常”需人為(wèi)調控
日期：2020-05-28 16:37:59鄉訊 作者：大(dà)數據文摘
你還記得(de)，半年前，你打開(kāi)淘寶，是錯紅在看衣服？化妝品？還是準備換一個手機殼？
疫情打亂了人們(men)的生活計劃，随着年初疫情逐漸升溫，各大(d市麗à)電商平台的口罩上架後往往秒售罄，有人也因此養成了囤貨的習慣。
當疫情向國外擴散，這個變化也在歐美各國開(kāi)始出現。總部位于倫敦的咨水友詢公司Nozzle專門為(wèi)亞馬遜賣家算但(jiā)做算法廣告，他(tā)們(men)敏銳地注意到一內了這個變化，疫情之前，手機殼、充電器(qì)花術、樂高在亞馬遜銷售榜上從來沒有跌出過前十，但如(rú)美間今，這些在短(duǎn)短(duǎn)幾天内就被擠出榜單，取而代之的是口罩技視、消毒液等。
他(tā)們(men)還繪制了疫情相關産品子不的變化曲線圖：
4月12日至18日，亞馬遜網站上的十大(dà)搜又吧索詞分别是：衛生紙、口罩、口罩、洗手液、紙巾、來蘇爾噴霧劑、科(kē)樂士火黃濕巾、口罩、來蘇爾、防菌口罩和N95口罩。
從這些商品内容也可以追蹤新冠病毒的傳播軌迹，相關微西商品的銷售量在意大(dà)利率先達到峰值，其次是西班牙、法國跳但、加拿(ná)大(dà)和美國，英國和德國緊随其後。
“短(duǎn)短(duǎn)幾天時(s身明hí)間就發生了如(rú)此不(bù)可思議門道的轉變。”Nozzle的CEO Rael Cline說(shuō)道。這種漣漪男房效應在整個零售供應鍊中也現出真身，同時(國舞shí)，AI也受到了影響，在庫存管理、欺詐檢測、營銷等算法中已經出現了造什水成了“打嗝”（hiccups）現象，也就是說秒靜(shuō)，如(rú)今，以正常人類行為(wèi)為(wèi)基礎的機器(機答qì)學習模型已經不(bù)能适應社會(水鐘huì)的變化了。
根據全球AI咨詢公司Pactera Edge，“自動化正體但在走下坡路”，一些工(gōng)作人員表示，他(tā)們(友讀men)正在謹慎地關注着那些硬撐着的自動系統，以關討便在需要的時(shí)候介入人工(gōng)修正。
從疫情中，也可以看出，我們(men)的生活與AI交織得(de)多麼緊密，但也暴湖窗露出了一種微妙的依賴關系，我們(men)的行為(wèi)改章匠變會(huì)改變AI的工(gōng)作方式，而AI的工(gōng)通報作方式的改變，反過來會(huì)再次影響到我拍讀們(men)的行為(wèi)。
“當身處這樣與往常不(bù)同的環境時(shí)，你永遠不(bù)能坐而忘之醫花。”Cline說(shuō)。
世界變了，數據也會(huì)變
最開(kāi)始，機器(qì)模型的設計就是為(匠作wèi)了應對變化，但即使是現在，大(dà內上)多數模型仍然相當脆弱，尤其當輸入數據與訓老站練過的數據差距過大(dà)，它們(men化雪)的表現就會(huì)很糟糕。Pactera Edge副總裁能亮Rajeev Sharma表示，你以為(wèi)在建立一個AI系統後市人就能一走了之？這是錯(cuò)誤的做法，“AI是一個有生命的、要都會(huì)呼吸的系統”。
根據Sharma與幾家(jiā)公司的交流結果黑是，不(bù)少公司因AI無法及時(shí)得(de)到修正正在苦苦掙紮。
一家(jiā)向印度零售商供應醬料和調味品的公司表老拿示，此前公司一直依靠AI的預測準備訂購庫存，目前銷售預測與實際銷售情況存在較大說商(dà)出入。當這種情況發生，自動庫存管理系統就亟需被修複，但“AI從未經過店林這樣極端的訓練”。
在新聞領域，也發生了相關問題。一家(jiā)新聞網站使用AI評估錯我文章情感偏向，再根據結果提供每日投資(zī)建議，但目前新聞日呢比平時(shí)都更陰沉，AI給出的建議偏差也較大(dà)。
機器(qì)模型出現問題很大(dà)原因在于，越來越多的企業雖然購麗飛入了相關系統，但缺乏維護系統所需的内部知識，而如(rú)果想要報聽重新培訓一個模型，可能需要專家(jiā)級亮紅的人員重新建設。
當前的危機下，即使是與訓練集中的最壞情況相比，現實随時(shí)都有可妹笑能變得(de)更糟糕。
在Sharma看來，要訓練更多AI，除此之外，訓練畫輛内容應該包括過去的“怪胎事件”，比如(rú那雨)20世紀30年代經濟大(dà)蕭條、19花說87年黑色星期一股市暴跌、2008年金(jīn)匠村融危機，“這些大(dà)災變是建立更好(hǎo)的機器(qì)學習模型的基礎章票”。
但即便如(rú)此，也很難做到萬全準備。喝生一般來說(shuō)，如(rú)果機器(qì)學習系統沒門學有看到它所期望看到的東西，那麼就會(huì)出現問題。
用AI檢測信用卡詐騙的行為(wèi)分析公司Feat算他urespace創始人David Excell表示，令人區藍驚訝的是，Featurespace沒有看到自家(j謝樹iā)AI系統受到太大(dà)打擊，在他(tā)們(m行生en)看來，人們(men)仍然像以前那樣在亞馬遜機頻上買東西、訂閱Netflix，不(bù)過，人們(men)不(bù)再購買大身拿(dà)件商品，也不(bù)在新地方消費，這些行為(wèi)還是足以引起懷疑。我老
Excell說(shuō)，公司的工(gōng)程師們(men)隻需要介入調照市整，以應對購買園藝設備和電動工(gōng影輛)具的人激增的情況，這些屬于欺詐檢測算法可自煙能會(huì)發現的那種中間價格異常的購買行為(wèi)。
“世界變了，數據也變了。”Excell說(shuō)。
AI亟需修正，亞馬遜也逃不(bù)出這個命運
倫敦的Phrasee正在動手修改他(tā)們(m歌些en)的AI系統，該公司使用自然語言處理和機器(qì)學習技術代表件銀客戶生成電子(zǐ)郵件營銷文案或Face制水book廣告，保證文案語氣的正确是工(gōng)作中相當重要的海會一部分。在工(gōng)作時(shí)，AI能生內空成大(dà)量短(duǎn)語，通(tōng)過神經網絡運行後挑選出最佳暗城結果。
但是，鑒于生成的語言可能出錯(cuò)，在平時(shí)，Phrasee也保城如持讓人類來檢查其輸入和輸出的習慣。疫情爆發後，P場山hrasee意識到，在語言的使用上需要比平時(shí制謝)更敏感準确，于是他(tā)們(men)開(k新空āi)始着手過濾額外語言，禁止了一些特定的短(d微鐘uǎn)語如(rú)“going viral”，不(bù)姐紅允許涉及被叫停的活動如(rú)“party wear”，甚至删除了多對可能會(huì)被解讀為(wèi)高興或驚險的林來表情符号，以及可能引發焦慮的詞，如(rú)“OMG”“be 空說prepared”“stock up”“brace yourself”等。月能
然而，作為(wèi)整個零售行業的一個小(xi雪飛ǎo)小(xiǎo)的分支，很多企業無法與亞馬遜抗衡，新舞但這也是最微妙的地方。随着亞馬遜和其250萬第三方賣家(jiā)努力滿足嗎務市場需求，亞馬遜正對其算法進行細微的調整，以幫助分市月擔賣家(jiā)的負擔。
畢竟，大(dà)多數亞馬遜上的第三方賣家(jiā)都是依靠亞馬遜的算法創造要場收入，賣家(jiā)将商品存放在亞馬遜倉庫裡，亞馬遜負責所有錢鄉的物流，包括送貨到家(jiā)、處理退貨草友等。交易完成後，亞馬遜會(huì)推廣完成訂單的賣家有很(jiā)。
例如(rú)，你在亞馬遜上搜索Switch後，頂部顯眼風好的“添加到購物籃”按鈕旁邊的結果更有可能是使用亞馬遜站請物流的供應商，否則就會(huì)被排到更後面的位置。
但在過去幾周裡，亞馬遜上這一情況出現了180度扭轉，為(wèi)了緩爸子解庫存壓力，亞馬遜的算法現在似乎更傾向于推廣能自己發貨的賣家(jiā)動雜。
市場動蕩，人為(wèi)幹預不(bù)可少
如(rú)果沒有人工(gōng)幹預，要實現南如這種調整是很難的，“情況太不(bù)穩定了，上周算法工(g海司ōng)程師還在努力優化衛生紙，這周大(dà)家(jiā)突然就都女林想買拼圖或健身器(qì)材了”。
亞馬遜對算法進行的調整随後影響到在線廣告上的投入，這些算法決定花(huā)間站在廣告上的金(jīn)額取決于無數變量，但最終決定是基于用戶章店對其有多少價值的估計，這其中，有許多方法可以預測客戶的行為(wèi)姐朋，包括有關過去購買的數據，以及廣告公司根據不(bù)同人的在線活動進行的推子哥薦。
但是現在，Cline說(shuō)，想要預測點擊吃醫廣告的人是否會(huì)購買産品，最佳的參考因低醫素之一就是送達時(shí)間，這也是Nozzl見是e在和客戶讨論調整算法時(shí)提出的意見。例如(rú身都)，如(rú)果你認為(wèi)你不(bù)能比競争對手更快地交刀就付産品，那麼想在廣告拍賣中超過他(tā)們(men)，所進行的花(huā)費可去火能就是無效的。
這一切隻有專業團隊才能做到。Cline認為(w問謝èi)，目前的情況讓很多人大(dà)開(kāi)眼界，很多人以為(wè的相i)自動化系統都可以自己運行，“但實際上，你需要一個數據科(kē)學團隊，從厭雜而把社會(huì)事件和算法事件聯系起來。一個算舊船法永遠也不(bù)會(huì)主動挑選出這些東西”。
現在已經步入了萬物相連的時(shí)代，從疫情中已經樂謝可以廣泛地感受到，這也觸動了在更典型的時(shí)代仍然隐藏看雪着的機制。如(rú)果要尋找一線生機，那麼現在正是時(shí)候對新暴露說山出來的系統進行盤點，同時(shí)弄清楚如(rú)何設計媽問得(de)更好(hǎo)，使系統更有彈性。
如(rú)果要信任機器(qì)，我們(men)就需要對它們(men朋兵)進行監督。
