復(fù)旦大學(xué)EMBA肖仰華：人類文明或許將因?yàn)锳I迎來一段"盤整期"

美麗的人 · 發(fā)表于 2024-3-23 16:12:18

　　“君子知道”復(fù)旦大學(xué)EMBA前沿論壇上，復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院肖仰華教授曾為企業(yè)家同學(xué)進(jìn)行過主題分享。他認(rèn)為，Sora只是開始，AI或讓人類文明進(jìn)入“盤整期”。
　　
　　在人工智能的浩瀚世界中，Sora也只是冰山一角。當(dāng)AI技術(shù)“高歌猛進(jìn)”，當(dāng)人們?yōu)锳I的無限潛能感到驚嘆，更加深遠(yuǎn)的思考也隨之而來：人類文明或許將因?yàn)锳I迎來一段“盤整期”。當(dāng)下，科技與生活的融合程度前所未有地增強(qiáng)，人類的社會(huì)經(jīng)濟(jì)結(jié)構(gòu)乃至倫理標(biāo)準(zhǔn)是否會(huì)迎來巨變？
　　
　　AI正在“造世界”，而人類是唯一尺度
　　
　　·Sora絕不僅僅是視頻生成工具，它本質(zhì)上是現(xiàn)實(shí)世界的模擬器，能夠?qū)ξ锢硎澜纭⑷祟惿鐣?huì)以及人與世界的復(fù)雜關(guān)系進(jìn)行逼真模擬與生成。
　　
　　早在ChatGPT誕生后不久，AI專家們就預(yù)判了大模型技術(shù)勢(shì)必要從單一的文本模態(tài)向多模態(tài)發(fā)展的基本趨勢(shì)。Sora的出現(xiàn)代表了文生視頻、視頻編輯與生成的最新進(jìn)展，某種意義上可謂“水到渠成”。
　　
　　Sora絕不僅僅是視頻生成工具，它本質(zhì)上是現(xiàn)實(shí)世界的模擬器，能夠?qū)ξ锢硎澜纭⑷祟惿鐣?huì)以及人與世界的復(fù)雜關(guān)系進(jìn)行逼真模擬與生成。Sora的誕生宣告了人工智能在對(duì)現(xiàn)實(shí)世界的模擬方面能力達(dá)到了前所未有的水平，對(duì)傳統(tǒng)相關(guān)工具形成了降維打擊態(tài)勢(shì)。
　　
　　當(dāng)然，我們也不得不承認(rèn)，Sora對(duì)物理世界的模擬仍存在一些局限。例如老太太吹滅蠟燭時(shí)，蠟燭“吹而不滅”，違背了現(xiàn)實(shí)世界的物理常識(shí)。這些問題從根本上來講可以歸結(jié)于高質(zhì)量、高精度數(shù)據(jù)的缺失，或者是相應(yīng)物理場(chǎng)景的數(shù)據(jù)稀缺。但相信只要建立合理的診斷與發(fā)現(xiàn)機(jī)制，很快就可以通過增強(qiáng)長(zhǎng)尾場(chǎng)景的樣本供給，增強(qiáng)合成數(shù)據(jù)，以解決相應(yīng)問題。
　　
　　

　　
　　Sora的重大意義在于宣告了AGI技術(shù)路線在世界模擬這一能力上已然走通，這是具有戰(zhàn)略意義的事件，剩下的“細(xì)枝末節(jié)”提升與完善總體而言屬于戰(zhàn)術(shù)層面。
　　
　　人人都能創(chuàng)作的時(shí)代即將到來。在未來，只要有足夠創(chuàng)意并能用自然語言表達(dá)自己的創(chuàng)作腳本，小學(xué)生也可以制作出屬于自己的影視作品。
　　
　　但是值得注意的是，創(chuàng)造過程的另一個(gè)必要環(huán)節(jié)在于評(píng)價(jià)。要符合人類的真善美標(biāo)準(zhǔn)，仍然需要以人類的尺度與標(biāo)準(zhǔn)進(jìn)行檢視。人是萬物的尺度，在AI時(shí)代仍然適用。對(duì)于AI生成內(nèi)容，人類是唯一合格的評(píng)價(jià)者，人是AI的造物主，也是AI的尺度。
　　
　　超級(jí)認(rèn)知能力，將刷新人類創(chuàng)造力的邊界
　　
　　·對(duì)機(jī)器而言，精準(zhǔn)建模就是“理解”世界的基本方式。機(jī)器對(duì)于世界的建模或認(rèn)知可能比人類更接近世界本原之真相，機(jī)器對(duì)于世界認(rèn)知能力將顯著超越人類個(gè)體，用好機(jī)器的這種超級(jí)認(rèn)知能力將給人類發(fā)展創(chuàng)造全新機(jī)遇。
　　
　　AI的建模能力可以視作其對(duì)世界的“理解”能力。比如“在東京街頭行走的時(shí)尚女性”，便可被視作具備一定的理解能力。
　　
　　Sora借助數(shù)據(jù)驅(qū)動(dòng)方式取得了對(duì)現(xiàn)實(shí)世界的驚人建模與模擬能力，這種能力甚至遠(yuǎn)超人類對(duì)世界的認(rèn)知能力，機(jī)器對(duì)于世界的建模或認(rèn)知可能比人類更接近世界本原之真相，機(jī)器對(duì)于世界認(rèn)知能力將顯著超越人類個(gè)體。
　　
　　人類的認(rèn)知總體而言是線性的、有限的、簡(jiǎn)單的。在復(fù)雜決策時(shí)，人能同時(shí)考慮的決策變量是十分有限的，所謂的抓大放小、抓住主要矛盾的決策方式，本質(zhì)上都是人類認(rèn)知能力不足情況下的妥協(xié)之計(jì)。然而，AI卻可以在數(shù)以百萬計(jì)、千萬計(jì)的決策變量下進(jìn)行決策。
　　
　　隨著人工智能的進(jìn)一步發(fā)展，機(jī)器的感知維度也更加多元。
　　
　　

　　
　　人類對(duì)物理世界、人類社會(huì)皓首窮經(jīng)所積累的全部知識(shí)，在發(fā)展機(jī)器智能面前似乎顯得毫無價(jià)值，甚至起著負(fù)作用。人類對(duì)于發(fā)展機(jī)器智能的真正價(jià)值似乎只在于設(shè)定一個(gè)認(rèn)知世界先驗(yàn)載體（Transformer等模型架構(gòu)），準(zhǔn)備好訓(xùn)練素材（高質(zhì)量訓(xùn)練數(shù)據(jù)），使用大規(guī)模算力進(jìn)行訓(xùn)練。想想人類社會(huì)代際間的經(jīng)驗(yàn)與知識(shí)傳承，我們這代人的知識(shí)與經(jīng)驗(yàn)又有多少會(huì)被我們的下一代所認(rèn)可而繼承呢？
　　
　　Sora也在刷新我們對(duì)于人類創(chuàng)造能力的理解。在大模型里的生成過程可以視作是在更大語義空間上進(jìn)行高效的內(nèi)容枚舉或檢索，這個(gè)語義空間可能比人類所能理解的語義空間大得多，這也將幫助人類拓展想象空間，提升人類的創(chuàng)造力。
　　
　　深融實(shí)體經(jīng)濟(jì)，啟發(fā)學(xué)科發(fā)展
　　
　　·Sora背后的技術(shù)與傳統(tǒng)行業(yè)的深度融合將進(jìn)一步釋放生成式AI的產(chǎn)業(yè)價(jià)值，進(jìn)一步推動(dòng)AI與實(shí)體經(jīng)濟(jì)的深度融合，也有利于AI技術(shù)自身的進(jìn)一步迭代演進(jìn)。
　　
　　無人駕駛離不開無人駕駛汽車的感知設(shè)備（包括雷達(dá)和攝像頭），對(duì)汽車行駛路況和周邊環(huán)境進(jìn)行實(shí)時(shí)感知和建模，而借助海量的駕車數(shù)據(jù)、交通攝像頭數(shù)據(jù)，Sora從原理上有可能在無人駕駛場(chǎng)景對(duì)汽車行駛環(huán)境進(jìn)行高精度模擬和建模。一旦能在無人駕駛形成應(yīng)用，無疑會(huì)給大模型產(chǎn)業(yè)注入全新推動(dòng)力。
　　
　　同時(shí)，Sora對(duì)現(xiàn)實(shí)世界的建模與模擬能力，相信很快就會(huì)在具有更高價(jià)值、更為廣闊的場(chǎng)景中取得應(yīng)用。例如，工業(yè)制造、游戲引擎、數(shù)字孿生、教學(xué)仿真以及元宇宙等，都將從Sora背后的生成式世界模擬能力中受益。
　　
　　

　　
　　工業(yè)制造需要大量專業(yè)性極強(qiáng)的仿真和模擬，才能對(duì)設(shè)備運(yùn)行進(jìn)行診斷與預(yù)測(cè)。借助傳統(tǒng)工業(yè)機(jī)理模型的樣本合成，再借助Transformer架構(gòu)一個(gè)面向特定工業(yè)場(chǎng)景的Sora模擬器，從而極大提升工業(yè)場(chǎng)景模擬能力的泛化性，似乎是一個(gè)可行的技術(shù)路線。Sora背后的技術(shù)與傳統(tǒng)行業(yè)的深度融合將進(jìn)一步釋放生成式AI的產(chǎn)業(yè)價(jià)值，進(jìn)一步推動(dòng)AI與實(shí)體經(jīng)濟(jì)的深度融合，也有利于AI技術(shù)自身的進(jìn)一步迭代演進(jìn)。
　　
　　“打雞血”的同時(shí)，警惕AI無孔不入
　　
　　·人類文明或許將進(jìn)入一個(gè)“亂糟糟”的盤整期，其基本特征是“剪不斷，理還亂”。在這個(gè)盤整期我們需要重新劃定AI應(yīng)用的邊界，建立AI應(yīng)用的準(zhǔn)則。人必須也終將成為AI的尺度，AI的發(fā)展只能以人類的福祉為唯一依據(jù)與標(biāo)準(zhǔn)。
　　
　　從長(zhǎng)遠(yuǎn)來看，AI也可能帶來一些潛在的社會(huì)問題。“人人皆可創(chuàng)造”看似將帶來所謂“AI平權(quán)”的美好未來，但也意味著由此產(chǎn)生的藝術(shù)作品總量可能遠(yuǎn)超出生命的長(zhǎng)度。
　　
　　生活中如果時(shí)刻都被AI賦能，恐將加速人類生存意義的毀滅。無孔不入的AI應(yīng)用，不加節(jié)制的AI濫用，讓“每時(shí)每刻”都是“高光時(shí)刻”會(huì)從根本上毀滅高光時(shí)刻對(duì)于人生的意義。
　　
　　伴隨通用人工智能技術(shù)的進(jìn)一步發(fā)展，人類文明或許將進(jìn)入一個(gè)“亂糟糟”的盤整期，其基本特征是“剪不斷，理還亂”。
　　
　　在AI技術(shù)之前，人類的精神世界百分百體現(xiàn)的是人類自身的意志。而Sora在人類有限提示下完成的視頻生成，內(nèi)容卻已經(jīng)不是人類意志的完整體現(xiàn)。因?yàn)橥欢翁崾荆煌腁I工具，甚至同一個(gè)工具的不同版本或不同輪次，生成結(jié)果都會(huì)有差異，這個(gè)差異所在就是機(jī)器的“意志”體現(xiàn)。
　　
　　當(dāng)AI生成以假亂真，人類的感覺和知覺系統(tǒng)已經(jīng)無法判斷真?zhèn)巍，F(xiàn)實(shí)世界和虛擬世界的邊界日益模糊，將造成人類感知與認(rèn)知功能紊亂與障礙。一個(gè)人類文明盤整期的到來似乎是必然的，在這個(gè)盤整期我們需要重新劃定AI應(yīng)用的邊界，建立AI應(yīng)用的準(zhǔn)則。
　　
　　很多人認(rèn)為AI是平權(quán)的機(jī)會(huì)，但如果不加以合理干預(yù)和監(jiān)管，AI更可能成為集權(quán)的利器。人類在科幻電影中不止一次表達(dá)“超級(jí)英雄”很容易被超能力反噬的擔(dān)憂，當(dāng)AI被視為人類發(fā)展的“超能力”，如果不加以合理干預(yù)和監(jiān)管，人類同樣會(huì)被這種能力反噬。
　　
　　沒有對(duì)于AI的積極干預(yù)、引導(dǎo)與規(guī)范，AI有可能成為人類社會(huì)發(fā)展“不可承受之重”。所以，人必須也終將成為AI的尺度，AI的發(fā)展只能以人類的福祉為唯一依據(jù)與標(biāo)準(zhǔn)。
　　
　　復(fù)旦管院EMBA 復(fù)旦EMBA 復(fù)旦大學(xué)EMBA https://www.fdsm.fudan.edu.cn/emba