黃俊杰 | 人工智能發展中的關心、好奇、害怕、討厭和不確定的偶然因素

    采訪里,黃俊杰講了很多關于人工智能的發展中他討厭的事情。討厭、害怕、關心、好奇—在他的回答里,這四個詞常常一起出現。伴隨其后的,還有題目里的最后一個詞組“不確定的偶然因素”。以及,我們問他,如果有這樣一個填空題,人工智能是什么。他會怎么填。“人工智能打著誰的商標?”他非常迅速地把這個填空題也填成了一個問句。

    黃俊杰 | 人工智能發展中的關心、好奇、害怕、討厭和不確定的偶然因素

    黃俊杰(黃俊杰 參與創辦愛范兒,曾任《第一財經周刊》主筆、

    《好奇心日報》聯合創始人兼聯合主編,現任《晚點 LatePost》主編、聯合創始人。)

    采訪里,黃俊杰講了很多關于人工智能的發展中他討厭的事情。討厭、害怕、關心、好奇—在他的回答里,這四個詞常常一起出現。伴隨其后的,還有題目里的最后一個詞組“不確定的偶然因素”。以及,我們問他,如果有這樣一個填空題,人工智能是什么。他會怎么填。“人工智能打著誰的商標?”他非常迅速地把這個填空題也填成了一個問句。

    一個人在職業上怎么有機會變成一個更獨特的人?這些計算機推動的自動化的系統都在有效地幫助公司消解一些原來需要依賴人的簡單工作,而且它的速度很快。有可能最后變成,一個職業上在初級階段的人,要去跟一個效率極高的系統去競爭。這是一個很有“意思”的事情。

    黃俊杰 | 人工智能發展中的關心、好奇、害怕、討厭和不確定的偶然因素

    黃俊杰

    Q&A:

    關于人工智能你關心的是什么?

    黃俊杰:我覺得大家在討論人工智能的時候,尤其是和ChatGPT 相關的東西,這里面有一個非常嚴重的問題,我不太想用抄襲這個詞,但是它確實是類似這樣的行為。

    我們舉例子的話。比如,在英文世界里產生了一個新的詞、一個新的概念,翻譯軟件是沒有辦法把它翻譯出來的。一定是有個人做出了這個翻譯。你見到的任何一個其他翻譯軟件都是這樣。它就是這么把它抓過來,讓大家在使用這個工具的時候被自動調用出來。但是這個背后的貢獻者是誰,你不知道。

    翻譯只是一個小小的行業,大家也都沒什么感知,但實際上這個行業已經非常糟糕了。我最早兼職做過幾年翻譯,翻譯過新聞,也翻譯一些跟商業相關的東西。我大概理解翻譯的工作是什么樣的。譯者要去理解一些東西,也得找別人的翻譯來參考。這個借鑒過程是不可避免的。這發生在人身上,是一個很慢的過程,但是當 AI 被用于翻譯軟件,一切就加快了,變成在輸入框里面粘貼一下,結果就到我面前了。它看起來是一個非常友好的光標,但對我來說背后的所有的東西都是隱形的。

    翻譯只是一個行業,但 GPT-4 有希望影響各種行業。

    以前我們都用搜索引擎。搜索引擎最早其實很笨,它不會直接告訴你答案。當你搜索之后,它讓你去別人的地方去獲得信息,獲得服務,對方獲得流量。在之后的發展里,流量越來越集中到一個地方、信息來源越來越模糊。包括很多人喜歡的維基百科。它把所有的信息組合在一個頁面里面。雖然有各種長鏈接告訴你這東西最早來自于什么地方,但當一個維基百科詞條呈現在一個讀者面前的時候,你不太關心這個信息是從哪里來的。它看上去就是一個真理一樣的存在。它從全網各個地方搜羅來那些信息,那些小地方的流量被它吸走了,越來越少的人能去到那些地方。這其實是一個信息的集權。生產信息、把信息放到網上的人,得不到流量回報,這是在破壞整個互聯網的激勵機制。

    維基百科影響力還小點,但是ChatGPT 就不是這樣了,它變成了一個對話框。除非你特別去跟它說,我想要你推薦一些特定的網站,否則它就直接給答案。它像一個助理一樣給你結果,背后的那些東西相對是隱形的。作為一個用戶,作為一個獲得信息的人,跟信息最初的來源,你們之間的關系變得更遠了。

    我覺得這是一個挺大的問題。到底這個信息是哪里來的,你現在是越來越不知道了,而且你越來越不想知道。

    ChatGPT 的每個回答,其實都不是ChatGPT 想出來的,這里面的所有的信息、所有的風格,都是在某個地方、某個時間點由一個活生生的人寫下,所以它有一天才會在你的需求下被ChatGPT 組織成一段文字給你。我覺得這是一個極大的不公平。就是每個人貢獻的一些東西都被它打碎了,然后被吸到了整個體系里面,在需要的時候吐過來,這是一個極度地抹殺了創作者的“過程”。如果完全是AI 創造的沒問題,但實際上它不創造東西。就是說,技術在越來越方便的同時,它把個體的形象變得越來越模糊。

    黃俊杰 | 人工智能發展中的關心、好奇、害怕、討厭和不確定的偶然因素

    黃俊杰

    關于人工智能,這是你比較害怕的點?

    黃俊杰:這不叫害怕,就是討厭的地方。

    之前有一次跟一個中國移動地方公司的管理者聊天,他就抱怨說現在辦公室的新人越來越笨。最早,運營商有大量自己的客服,他們一度有機會升到辦公室里。這些人工作非常辛苦,上廁所都要按分鐘記,但他們在這些非常枯燥的工作里面,磨練了一些溝通能力。后來這些工作被外包、被機器替代。

    類似的還有比如說媒體最早都有很簡短的快訊。一些非常重要的作家、新聞人都是從這些上面一步步過來的,比如蓋伊·特立斯。

    我真的害怕的是什么,就是簡單的工作沒有了。大家都覺得說你要有創意的能力,但你連最簡單的訓練都沒有,怎么變成一個更熟練的能夠去提出問題、能夠去解決問題的人?

    舉一個美團的例子。當騎手接到一個單的時候,騎手會自己規劃路徑。不同的人,能力是不一樣的。很厲害的騎手可以更快找到路,更快送貨,也賺到更多錢。但是當厲害的騎手找到一條更快的路,跑了幾次之后,這個路徑就被系統學會了,成為默認的導航路徑。好處是所有騎手都可以跟著捷徑走,壞處就是人和人之間的能力差別被抹掉了。每個人的能力的高低不太重要了,就可以被隨時替代了,他對工資的議價權也就沒了。

    我比較好奇的是接下來會怎么樣。一個人在職業上怎么有機會變成一個更獨特的人?這些計算機推動的自動化的系統都在有效地幫助公司消解一些原來需要依賴人的簡單工作,而且它的速度很快。有可能最后變成,一個職業上在初級階段的人,要去跟一個效率極高的系統去競爭。這是一個很有“意思”的事情。

    而每個項目,如果它背后需要錢的話,它都不會是你個人或者小團隊能做的事情,AI 成本很高。這就變成了有錢的公司去把人的能力給“沉淀”到一個系統上,然后再把它作為產品輸出出去。最終這些能力不再屬于一個個個體。我覺得這是一個不能讓我害怕,但確實是一個有點讓人厭惡的事情。另外我也很好奇它之后會變成什么樣子。

    而有什么能保證世界一定會往更好的方向再造呢?

    尼爾·弗格森,是英國歷史學家,他之前有一次對談提到新冷戰的可能。他說大家看歷史,都覺得事情這樣發生了,再來一遍似乎也會按照同樣的路徑走,但很多事情是由非常非常強烈的偶然因素所決定的。

    我們今天回頭想,過去幾十年,美國跟蘇聯沒有大打一仗,地球沒有毀滅是一個事實。但是在這個過程里面,有無數的偶然因素導向了這個結果。再來一次,不保證類似的結果。

    類似的,一百年前,工業化生產線來了,一度美國藍領工人一周能打卡工作100 小時。后來在各種因素的影響下,人類找到了一個平衡,有了 8小時工作制。但沒什么可以保證:“當這個社會被AI 改造了之后,它的變化一定是更好的。”因為有很多因素都可以影響結果。

    監制:佟宇 / 統籌、編輯:李祺 / 采訪、撰文:晏文靜 / 攝影:付酉 / 妝發:Vivi / 攝影助理:蘇澤彬、六一