數(shù)據(jù)與基礎(chǔ)設(shè)施：AI項(xiàng)目失敗兩大誘因
盡管投入大量資源，但僅有不足半數(shù)AI模型能夠投入生產(chǎn)。為了摸清造成這種窘境的原因，Run:AI委托開(kāi)展了首輪AI基礎(chǔ)設(shè)施現(xiàn)狀調(diào)查。本次調(diào)查面向來(lái)自十個(gè)國(guó)家的211名數(shù)據(jù)科學(xué)家、AI/機(jī)器學(xué)習(xí)/IT從業(yè)者及系統(tǒng)架構(gòu)師，他們主要來(lái)自員工超過(guò)5000人的規(guī)模企業(yè)，但也包括部分來(lái)自初創(chuàng)企業(yè)和超大型跨國(guó)集團(tuán)。
統(tǒng)計(jì)數(shù)據(jù)也證實(shí)了這一基本判斷：77%的受訪(fǎng)者表示他們的大部分AI模型從未投入過(guò)正式使用；甚至有五分之一的受訪(fǎng)者給出了更低的答案，稱(chēng)全部模型中只有10%能夠介入生產(chǎn)環(huán)境。
報(bào)告中的其他發(fā)現(xiàn)則給出了具體解釋。例如，只有17%的AI廠(chǎng)商能夠?qū)Π嘿F的AI資源進(jìn)行高效利用；22%的AI解決方案開(kāi)發(fā)者表示，他們的基礎(chǔ)設(shè)施大多處于閑置狀態(tài)，這是因?yàn)槌^(guò)三分之一的受訪(fǎng)者需要手動(dòng)訪(fǎng)問(wèn)GPU資源，而且硬件加速器的靜態(tài)分配機(jī)制也嚴(yán)重限制了他們的工作效率。
AI領(lǐng)域已經(jīng)吸納了巨量成本：38%的受訪(fǎng)者表示所在公司單單在A(yíng)I基礎(chǔ)設(shè)施，包括硬件、軟件與云開(kāi)銷(xiāo)方面就開(kāi)出了超過(guò)100萬(wàn)美元的年度預(yù)算；更有15%的受訪(fǎng)者表示所在公司的年度AI基礎(chǔ)設(shè)施投入超過(guò)1000萬(wàn)美元。還有74%的受訪(fǎng)者稱(chēng)公司計(jì)劃在短期之內(nèi)增加GPU容量或AI基礎(chǔ)設(shè)施支出。
調(diào)查發(fā)現(xiàn)，AI工作者們面臨的最大挑戰(zhàn)集中在數(shù)據(jù)層面。61%的受訪(fǎng)者表示數(shù)據(jù)收集、數(shù)據(jù)清洗與治理等環(huán)節(jié)存在問(wèn)題。42%的受訪(fǎng)者強(qiáng)調(diào)所在公司的AI基礎(chǔ)設(shè)施與算力水平達(dá)不到要求。除開(kāi)數(shù)據(jù)與基礎(chǔ)設(shè)施這兩大核心要素，緊隨其后的挑戰(zhàn)為模型開(kāi)發(fā)及訓(xùn)練時(shí)間過(guò)長(zhǎng)、模型引用量過(guò)大，占受訪(fǎng)者中的24%。
調(diào)查還強(qiáng)調(diào)了云計(jì)算在A(yíng)I領(lǐng)域的作用，53%的受訪(fǎng)者表示他們的AI應(yīng)用程序及基礎(chǔ)設(shè)施位于云端，34%受訪(fǎng)者表示計(jì)劃在未來(lái)幾年向云端遷移。容器已經(jīng)成為運(yùn)行AI工作負(fù)載的標(biāo)準(zhǔn)基礎(chǔ)設(shè)施選項(xiàng)，80%的受訪(fǎng)者表示他們已經(jīng)在某些AI工作負(fù)載中使用容器技術(shù)，49%的受訪(fǎng)者表示他們的大部分乃至全部AI負(fù)載都運(yùn)行在容器之內(nèi)。在編排方面，Kubernetes一馬當(dāng)先、獲得42%的支持率，另有16%的受訪(fǎng)者表示計(jì)劃使用這套流行的容器編排解決方案。緊隨其后的是Red Hat Openshift，有13%的用戶(hù)正在使用、6%的受訪(fǎng)者有意試用。
Run:AI公司聯(lián)合創(chuàng)始人兼CEO Omri Geller表示，“除了基礎(chǔ)設(shè)施層面的數(shù)百萬(wàn)美元投入之外，對(duì)AI抱有興趣的企業(yè)還需要再準(zhǔn)備幾百萬(wàn)美元招納高水平的AI員工。但很遺憾，大部分AI模型從未被投入實(shí)際生產(chǎn)，意味著這些投入白白打了水漂。我們的調(diào)查顯示，大量基礎(chǔ)設(shè)施處于閑置狀態(tài)、引發(fā)嚴(yán)重的資源浪費(fèi)；數(shù)據(jù)科學(xué)家被迫手動(dòng)訪(fǎng)問(wèn)GPU資源；而且云遷移之旅也仍在推進(jìn)當(dāng)中�？傊�，誰(shuí)能率先把自己的模型投入生產(chǎn)并獲得實(shí)效，誰(shuí)就能在這場(chǎng)AI競(jìng)賽當(dāng)中占據(jù)領(lǐng)先。”
