對話王小川:我們已經進入通用人工智能時代
2023年4月10日,原搜狗CEO王小川官宣創辦百川智能——一家研發並提供通用人工智能服務的中國公司,旨在打造中國版的OpenAI基礎大模型及顛覆性上層應用。
百川智能將藉助語言AI的突破,構建「中國最好的大模型底座」,並在搜索、多模態、教育、醫療等方面增強,幫助大眾輕鬆、普惠地獲取世界知識和專業服務。
很多人對王小川不陌生。
王小川曾任搜狗CEO,先後主導開發了搜狗搜索、搜狗輸入法、搜狗瀏覽器等產品,首創破局搜索的「三級火箭模式」,先後推動了阿里巴巴和騰訊戰略入股搜狗,並於2017年帶領搜狗在美國紐交所上市,此後搜狗被騰訊私有化收購,王小川告別搜狗。王小川先後擔任第十三屆全國政協委員及提案委員會委員、九三學社第十四屆中央委員會委員及促進技術創新工作委員會主任、清華大學計算機學科顧問委員會委員等職務,曾獲1996年第8屆國際信息學奧林匹克競賽(IOI)金牌、2014年北京市勞動模範稱號、2015年北京市科學技術獎一等獎、2018年中國青年五四獎章、2019年第十五屆中國青年科技獎、2019年中國電子學會科學技術獎科技進步獎一等獎、2020年錢偉長中文信息處理科學技術一等獎等獎項和榮譽。
站在多年積累之上,再創業的王小川無疑是中國AI大模型創業陣容中最受關注的人之一。王小川一直被外界稱為「五道口守門員」,他來到北京二十餘年,始終沒有離開過清華大學和搜狐大廈所在的五道口區域。離開搜狗542天後,這一次再創業,雖然換了一個身份,但「守門之路」依然繼續。
本文,甲小姐於官宣當日在五道口獨家對話百川智能CEO王小川,抵達官宣背後更深一層的思考。
談認知:「AGI(通用人工智能)不是OpenAI,不是ChatGPT,也不是某個產品,而是一個大時代」
甲小姐:你曾評價自己很鈍感,有選擇困難症,一個月前你和我說這波大模型讓你感覺「被架在火上烤」,今天來看,這次創業你有多少是被時代推着走的,多少是自己主動的?
王小川:最初看到ChatGPT時,我沒把它理解成一個嚴肅科學問題,比如你問個問題它答錯了,但當你要求它「think step by step」,它就答對了,我最初覺得很好笑,直到今年1月底我開始認真看,才發現通用人工智能時代到了。
對於「該不該下場」,我可能是最後一個下判斷的,但對於「這是不是AGI(通用人工智能)」,我在用完ChatGPT之後就知道了,我可能是第一個這麼斬釘截鐵認為它是AGI的人。
甲小姐:你斬釘截鐵判斷「ChatGPT就是AGI」,業界更謹慎的說法是「看到了AGI的曙光」,連微軟也比你的說法保守,微軟的說法是「GPT-4可被視為AGI的早期版本」。為什麼你這麼篤定?
王小川:就像AlphaGo出現時我很早就確信它會贏,我是看論文的人。
甲小姐:你和別人對AGI的定義不同在哪?
王小川:現在對AGI還沒定義,但我是做自然語言的,我深知語言多難。我們上學時學人和動物的核心區別是語言,維特根斯坦說「語言的邊界就是世界的邊界」。我的判斷是,當機器掌握語言,通用人工智能時代就到來了。
你也看過侯世達寫的《表象與本質》,看完之後就很清楚什麼叫AGI了。掌握語言, AGI就來了——這件事的邏輯清晰,不是我作為一個企業家的雞湯說法。
只是我原來認為光從語言做大模型行不通,必須加圖,但現在發現,大模型還沒加圖就學會了。
甲小姐:你曾在一次訪談中說「寫程序是創造生命的過程」,你對健康感興趣,對AGI感興趣,都是對生命的興趣?
王小川:廣義上生命分幾種,AGI主要指向創造智力。人最根本的需求是「生存」,我反覆講繁榮和延續人類文明,「繁榮」指向「生」,「延續」指向「存」。我說的「生命」,既不是個體的生命,也不是AGI,而是整個人類文明——讓人類文明能夠更繁榮和延續是我的終極理想,我希望向文明、向生命致敬。
甲小姐:你官宣要「做中國最好的大模型」,這是個具有很強競爭意味的定位。
王小川:第一,我是不怕競爭的。你也知道奧賽是怎麼卷過來的,搞搜索是怎麼卷過來的,我倒不怕競爭,我只是不希望過多突出競爭,但大家非得問。我覺得更好的邏輯不是競爭,是告訴大家AGI時代已經開啟了。
甲小姐:現在對AGI國外也沒有形成共識,比如Yann LeCun就不認同OpenAI的一些說法,他提出「世界模型」;而OpenAI CEO提出「萬物摩爾定律」,大家似乎到了一個定義新世界基本定律的階段。你認知AGI的底層邏輯是什麼?
王小川:目前我的思考跟OpenAI高度一致,也許是被他們感染。接下來文字模型搞完之後,視覺還有更複雜的事情,有些不是現在能弄清楚的,現在可能是「不知道自己不知道」的狀態。但我想強調的是,本質上AGI不是OpenAI,不是ChatGPT,也不是某個產品,而是一個大時代。在我個人公開信的結尾有對這件事的刻畫,我還是挺滿意的。
甲小姐:從年初下判斷這是AGI,到今天官宣創業,僅僅過去了兩個月,這兩個月你見了多少人?
王小川:不到100人。
甲小姐:這兩個月你的認知有變化嗎?
王小川:沒什麼變化,主要還是靠自己思考。我自己的大腦不是一個靠各種數據驅動的深度學習系統,我的大腦就是一個pre-training model(預訓練模型),我腦子裡存了很多東西,pre-train之後靠大家激活。
甲小姐:未來你會推翻現有結論嗎?
王小川:至少我講的都是我比較確認的東西,肯定還有更多我不知道的細節,但我的核心觀點就是「通用人工智能時代已經來臨」,這比其他都重要,我很篤定。
甲小姐:你現在進入AI native的生活狀態了嗎?
王小川:我還得繼續強化,還不夠。我現在涉及工作的內容問人,語言知識信息類的都問AI。比如我想知道「從10月30號到今天總共過了多少天」,直接問ChatGPT是最簡單的,做大模型創業要開媒體見面會的建議也是ChatGPT告訴我的。
談創業:「把自己的名字壓進去了,把朋友都帶進去了,自己最後就是兜底的這個人」
甲小姐:大模型創業,你比王慧文、李開復等人的官宣晚了不少,為什麼?
王小川:因為我不想什麼都沒有就官宣。
甲小姐:你官宣時,個人公開信落款是「百川智能CEO王小川」,之前的組合都是「搜狗CEO王小川」,我看到那個落款時有點陌生感,這是你第一次把自己的名字放進公司名稱里?
王小川:當然。我也覺得很陌生,之前和別人聊,經常一不小心就說成「我們搜狗」怎麼樣。
甲小姐:對你而言,把名字放進去,比自己投錢更意味深重?
王小川:是的,核心就是把自己放進去。把自己的名字壓進去了,把朋友都帶進去了,自己最後就是兜底的這個人。
甲小姐:你很習慣價值升維,講過很多高境界的話,比如「做輸入法是幫助人類更好地表達」「做搜索是幫助人類更好地獲取信息」「語言是人工智能皇冠上的明珠」,AGI會帶來人類文明的「文藝復興」等等,但創業可能有99%的時間是在面對和世界先進水平的差距,是髒活累活和權衡取捨。你已經成功了一次,再次all in,猶豫過嗎?
王小川:沒猶豫過。有人想做投資,而我就是要創業的。
甲小姐:這次創業目標關係到個人追求嗎?比如錢、名、權力。
王小川:當你有勢能去推動一件事情發生改變的時候,錢和名都不在意,只在意這件事本身。
甲小姐:官宣後你會收到很多信息轟炸,最關心什麼?
王小川:我最關心的是有沒有人願意來一塊兒干。
甲小姐:你的公開信留的招聘郵箱按年齡段分了組,目前團隊年齡組成如何?
王小川:幾個領軍人物都是90年的。
甲小姐:百川團隊有部分搜狗舊部,這是否會造成路徑依賴?
王小川:不會。很多人可能對搜狗有誤解,覺得搜索公司不夠AI,其實搜狗現在有12000片GPU在跑着,70%是做推理的,搜狗是非常AI化的公司。搜狗的核心是語言相關工作,NLP是基本功,在大量文本數據中篩選高質量數據的方法和大模型是完全一樣的;其次,在評價方法上,從平台輸入一個問題,評價它的反饋答案好不好的標準和搜狗也相對一致,所以我們在一頭一尾的原始數據治理上相對有更多經驗,也更擅長對生成內容的好壞做評價。當然,大模型會涉及獨有的經驗和算法,但我們學起來也會很快。
甲小姐:你和業界大部分人的觀點是相似更多還是不同更多?
王小川:不同的更多。很多人還是從「幾板斧」的視角來考慮這件事,比如怎麼搞算力,怎麼搞算法,怎麼找人,找人的時候大家也缺乏對生命的思考,還是在用物理方式堆明星團隊。
關於招人,我的觀點是不能靠「拼」團隊。也許資本喜歡聽把明星團隊湊一塊兒的故事,但公司是個生命,生命不是這麼長的——它得深度融合,它的基因得交融,公司是進化出來的,拼出來的團隊反而生長速度會很慢。
搭團隊既要有一個融合好的團隊基礎,一個好胚子,也要注入更高級的基因。我最近的核心工作就是把團隊理順了,到月底我們差不多就接近50人了,下旬我就到美國去,也得去搶人。
甲小姐:你的大模型時間表如何?
王小川:第一版今年年中就訓出來了,500億參數,年底可以做到中國最好,達到GPT-3.5以上的水平。當然,這不代表我們中間沒有產品發出來。
甲小姐:哪些維度可以定義「中國最好的大模型」?
王小川:基礎參數量、在各個評測集上的測試效果、發布產品後的用戶體驗。
甲小姐:DeepMind和OpenAI雖然初始基因類似,技術都很強,但讓他們拉開梯隊的是DeepMind更像「AI特種兵」,把單個任務做得很好,但OpenAI最先找到了產品驅動的、scalable的玩法。所以決勝之戰可能是你大模型上的「超級產品」是什麼。你想清楚產品形態了嗎?
王小川:我還在不斷迭代,但我知道哪些東西是該有的。
甲小姐:你的超級產品會是to C還是to B?
王小川:To C,今年之內你會看到。
甲小姐:你提到會在醫療和教育兩個方向做知識增強,為什麼優先選擇這兩個方向?
王小川:語言是知識的載體。什麼行業知識密集,什麼行業就適合大模型。教育服務高知群體,醫學生要學8年才能走進工作崗位,這明顯是知識密集的兩個領域。
甲小姐:和李志飛對話時,他說大模型公司的首席科學家第一年會非常難受,看到別人的「孩子」已經滿地跑,自己的「孩子」還沒有出生,周圍很多人會不斷問你孩子什麼時候出生?你要權衡應該快速發布搶占時間窗口,還是更有定力先把產品做到足夠好,你對節奏怎麼把握?
王小川:可能看到別的「孩子」跑出來了我會有壓力,但我不會難受,因為我和團隊在一起,跟他們一塊同進同出、同吃同住,知道他們的狀態,他們的決定和我的決定是一體的。
甲小姐:重要決定不該是一把手工程嗎?
王小川:是一把手工程,但要同欲同心。
談路徑:「今天的錢你可以買樓,你可以買卡,你可以買人,但它都不直接變成市場份額,也不一定有那麼多網絡效應」
甲小姐:你現在設計技術、戰略、商業模式時,是完全獨立思考,還是對標OpenAI?
王小川:首先我很尊重OpenAI,他們都是很聰明的人,但我更願意自己想好後根據OpenAI的做法來自我驗證,這是一個校對、校準的過程,而不是抄襲或參考。
甲小姐:你的路徑和OpenAI有什麼區別?
王小川:他們可以用幾萬張卡跑模型去通向AGI,但有些深水區他們就不碰了,比如搜索、醫學,他們可能躲着走,但我要去碰這些東西,我需要更考慮落地應用。
甲小姐:早早關注落地應用可能會讓你很難純粹實現AGI。
王小川:國內都難。
甲小姐:以你的稟賦,也許你有能力像OpenAI一樣一往無前地做純通用人工智能?
王小川:資源、能力到了才行。我之前提出過若干今天看起來自己都覺得非常驚嘆的技術創想,比如我之前想過怎麼預測下一個詞,怎麼預測視頻的下一幀,但團隊做不到,就放下來了。
甲小姐:「團隊做不到」指什麼?
王小川:首先,網絡結構的設計需要科學家,不是工程師就能做的。國內能搞網絡結構的人屈指可數,楊植麟搞一篇東西在國內簡直就已經(牛得)不行不行了。第二是確實燒錢,這是信仰層面的事,你需要能得到無限資金供給,我覺得現在還不具備。
甲小姐:搜狗時期你很擅長斡旋於大廠之間創造合作,接下來有沒有想過找一個中國版「微軟」,和大廠共舞?
王小川:我覺得不能照抄openAI,文化不一樣,角色不一樣。OpenAI有幾萬張卡跑模型。我們為什麼經常有悲觀主義?因為你想要和OpenAI一樣。
甲小姐:大家只是期待想看到一個團隊像他們一樣能非常純粹、沒有太多現實約束地一路直奔AGI。
王小川:那團隊要打過仗,練起來才行——你要相信團隊能幹這事,團隊要相信你指的方向是正確的。這兩個條件成熟才能做,這些東西是需要被驗證的。否則你給我錢,團隊hold不住,我在搜狗的時候這些是不成熟的。
甲小姐:國內很難再出現微軟和OpenAI這樣的組合嗎?
王小川:有點難,也許以後會有。微軟和OpenAI的組合里不是缺微軟,是缺OpenAI。OpenAI用了7年時間孤獨地做AGI,直到微軟看見它,並且相中它。
甲小姐:對你這次創業來講,錢的問題是不是問題?
王小川:我大概估算過,只是從0到1起步,5000萬美元就夠了,但要持續做到最好,大概需要3-20億美元。
但人比錢重要。這個領域不會像之前打車、外賣一樣,錢能直接轉化成市場份額——今天的錢你可以買樓,你可以買卡,你可以買人,但它都不直接變成市場份額,也不一定有那麼多網絡效應。
甲小姐:中文語料質量是挑戰嗎?
王小川:不會,訓練肯定是中英文結合,中英文之間也不是翻譯的關係,就像一個小孩,媽媽是中國人,爸爸是美國人,小孩不需要翻譯,很自然就會了。
甲小姐:算力是問題嗎?
王小川:現在談到算力,人們總有好多假設在裡面,比如你需要弄1萬張A100顯卡。可你為什麼要1萬張?你要先想清楚。算力這件事其實打開看都是有辦法的,而且幾年後中國芯片企業也會有突破,這一點我特別有信心。
甲小姐:如果超級產品出來,算力不夠怎麼辦?
王小川:那就是幸福的煩惱。
談生態:「人究竟該怎麼跟機器相處,這是我關心的問題」
甲小姐:安卓生態和蘋果生態,你更希望百川智能接近誰?
王小川:如果非要選的話是蘋果,我會往C端做。
甲小姐:你對封閉創新更感興趣?
王小川:我覺得這才是象徵綜合能力的做法,而不是單點能力。安卓開源是工程師就可以搞的事,但C端是一個更複雜的系統,蘋果比安卓更綜合。
甲小姐:在AGI時代,「做安卓還是做蘋果」這個問題過時了嗎?
王小川:這個問題可能還會有,但不是我最喜歡視角。我是從「人本」來看的——人究竟該怎麼跟機器相處,這是我關心的問題。從這個角度出發,我更知道C端要什麼。
甲小姐:有人說「做出中國的ChatGPT不難,但是做成中國的OpenAI很難」。硅谷有很多厲害的人可能寧願選擇加入OpenAI也不願自己單挑,他們追求AGI的夢想似乎大過了對入場姿勢的選擇。
王小川:硅谷對於改變世界、創造不同的心態會好很多,千團大戰這種事他們是不會幹的,我們還是受儒家文化影響,總希望出人頭地、賺錢。
甲小姐:你覺得中國AI大模型團隊最終會形成「一小龍」「四小龍」還是「四十小龍」?
王小川:不知道。在短期內,創業公司真能做大模型的可能就5個以內,大廠的標配是一人做一個。
甲小姐:你對全球AI產業接下來的趨勢有哪些判斷?
王小川:現在盯着OpenAI往下干就是趨勢(笑),他們是人類的希望,大家都圍着他們轉。
甲小姐:對於AGI,你是完全樂觀,還是帶有悲觀主義成分?
王小川:美國在研究上確實遙遙領先,但在商業應用裡面,我認為追上的機會就大了。
談心態:「現在跟世界的連接更輕鬆了」
甲小姐:聽說你今天(2023年4月10日)下午2點之前都非常忙,在忙什麼?
王小川:我昨天晚上寫官宣公開信寫到凌晨四點多還沒寫完,睡到早上八點又接着寫。
甲小姐:你的公開信ChatGPT參與了嗎?
王小川:沒有。
甲小姐:你現在的狀態和當年在搜狗時不太一樣,humble了很多,感覺「緊箍咒」扔掉了。我回看了一下你卸任搜狗CEO的告別信,你說「感謝曾經極致努力的自己,把全部的愛奉獻給了搜狗,自己即將去愛親人、追尋愛情,為大眾健康作出貢獻」。再創業做百川智能,這些還能實現嗎?
王小川:還好,離開搜狗這兩年我更接納自己了,我現在和過去兩年比又放鬆了一層,和世界的連接更輕鬆了。在搜狗時你作為CEO總會說我們人才很充分了,我們想得很清楚了,我們事也幹得很漂亮,你不斷傳遞你是完美的這種狀態,但創業不是這樣——你會發現自己還有很多不足的地方,需要大家幫忙,這樣一種心態對我而言是進步的,可能幾位大佬不會這麼搞。
甲小姐:現在你對這次創業的感覺已經從「被架在火上烤」變成「圍着篝火跳舞」了?
王小川:我現在的感受很真實。越來越多人進場,我既不是非要秒掉他們,但自己也不是一無是處,這是一個很好的狀態,反而讓我感覺很鬆弛。
甲小姐:創業九死一生,你會害怕自己的光環消失嗎?
王小川:暫時沒有,這個問題不到那個時候沒法回答。就像我們都說不害怕死亡,但死亡真正來臨時就是另外一件事了。
甲小姐:你一直是個「做題家」,人們給你出一道題,你會做到世界第一,但你不一定是「出題高手」。AGI這條道路,你很快就會進入無人區,當沒有人給你命題時,你怎麼辦?
王小川:「怎麼去延續人類文明」不就是一個問題嗎?
甲小姐:這個問題太廣大,很難收斂到具體的做法。
王小川:也許我的答卷和別人不一樣,但至少到今天為止我已經自問自答好多問題了。就像我寫AGI和工業文明的關係,和互聯網文明的關係,和文藝復興的關係,我都已經回答這些東西了,但別人還沒問過。
談追求:「要把整個人類文明當作一個生命來看待,我們希望尋找終極答案」
甲小姐:你今天反覆提到「人文」和「人本」,讓這次創業有了某種感性色彩,這背後有更深的思考嗎?
王小川:現在大家老問機器把人取代了怎麼辦。有些人一直喊怕被取代,但當你問他用ChatGPT了嗎,他還沒用。
「找到自我」這件事,對很多人而言是很困難的,包括我們做這件事的意義到底在哪?好多人創業是因為這個事很牛,或者這個事大家都願意做,但我們是希望尋找終極答案。
與此同時,我們還是在腳踏實地做事的。我對這件事的思考深度超過了很多人,有些人還沒意識到這是時代變化,而且相當於把以前所有時代加起來的變化。我們正在創造一種新的生命,它和石頭、蒸汽機、電腦的出現都不一樣,以前都是工具,但AGI不是工具了——它是你的夥伴,新的朋友,是人類進化的下一個階段。
甲小姐:《生命3.0》這本書把生命分成了3個階段——生命1.0是40億年前開始漫長進化而來的所有生命物種,生命2.0是十萬年前出現的智人,可以通過語言和學習來改寫自身的「軟件」,但不能改「硬件」;生命3.0是人類可以改寫自己的「軟件」,也可以改寫自己的「硬件」。
王小川 :AI只是改寫了軟件。
甲小姐:改寫硬件是另外一撥人做的,比如基因編輯,但各個技術在高處匯合。現在看起來,人類文明要進入下一個寒武紀大爆發的時代了。
王小川:我們常說「上帝」有兩種,一種「上帝」無所不能、什麼都管;一種「上帝」在創造一個世界後,這個世界就自行運轉了。人也是這種狀態——一方面創造一個生命,像「上帝」般的位置,但創造出來後就放手讓它自己運行了。
甲小姐:「上帝」可以指代我們所追求的終極真理,它preload(預加載)人類世界,我們再去preload下一個世界,層層嵌套。
王小川:也許「上帝」就是我們的preloader(預加載程序)。
甲小姐:你和孫宇晨有一段舊事:2019年,孫宇晨在朋友圈回憶2014年與你的一場會談節目,他說「永遠忘不了他看我這打量騙子的眼神,他說我肯定會失敗,和我錄製節目是恥辱,最後甚至沒法錄下去。」孫宇晨嘲諷說,距離那天不到三年,自己公司的市值已經超過了搜狗。你後來回應孫宇晨,「什麼叫成功?什麼叫騙子?每個人有自己的定義。有的人以為是身價,有的人以為是市值。放到歷史長河裡,雲淡風輕。用極致理性追求真理的科學家,用極致感性追求美的藝術家,以及用大愛對世界或民族做出的貢獻的英雄,才能永垂不朽。 」 我觀察人們的人生目標最大的區別在於評價自己的時間尺度不同,有人追求cash(現金),為了這輩子,有人追求asset(資產),為了自己的孫子,有人追求legacy(遺產),為了世世代代。
你追求什麼?
甲小姐:你和孫宇晨有一段舊事:2019年,孫宇晨在朋友圈回憶2014年與你的一場會談節目,他說「永遠忘不了他看我這打量騙子的眼神,他說我肯定會失敗,和我錄製節目是恥辱,最後甚至沒法錄下去。」孫宇晨嘲諷說,距離那天不到三年,自己公司的市值已經超過了搜狗。你後來回應孫宇晨,「什麼叫成功?什麼叫騙子?每個人有自己的定義。有的人以為是身價,有的人以為是市值。放到歷史長河裡,雲淡風輕。用極致理性追求真理的科學家,用極致感性追求美的藝術家,以及用大愛對世界或民族做出的貢獻的英雄,才能永垂不朽。 」 我觀察人們的人生目標最大的區別在於評價自己的時間尺度不同,有人追求cash(現金),為了這輩子,有人追求asset(資產),為了自己的孫子,有人追求legacy(遺產),為了世世代代。
你追求什麼?
王小川:核心要回答三個問題:這個世界是什麼樣的?我是誰?我跟世界有什麼關係?
甲小姐:不是所有人都好奇。
王小川:反正我是好奇的。我對娛樂化沒什麼感覺,比如我能做頭條,但我做不了抖音。如果這次創業我們做成了,我們就有機會在中國做一家能真正有技術理想主義的公司。之前沒有這種條件和能力,但我有意願,現在有了這個機會,是讓我願意去大幹一場的最大動力。
甲小姐:你理想的AGI,是信馬由韁地做一個未知生命,還是去復刻一個人類生命?
王小川:AGI跟人的生命是連結在一起的,要把整個人類文明當作一個生命來看待。
甲小姐:很多人用對立視角比較機器文明與人類文明,但你所說的人類文明已經包含了AGI——相當於一個海洋生物爬上陸地,雖然進化了,但依然是同樣的文明,而不是上了陸地就拋棄了海洋。
王小川:是的。
甲小姐:橫向對比所有世界級前沿科技議題,AGI是你眼中「皇冠上的明珠」嗎?
王小川:這取決於AGI能不能解釋人的生命,是否能讓所有生命獲得一種更大的文明,從繁榮和延續人類文明這個角度來看,AGI是很有意義的。
甲小姐:你一直提「技術理想主義」,你怎麼定義「技術理想主義」?
王小川:首先,把技術做好就是目的,而不是用技術去服務商業化;第二,先相信再看見,而不是先看見再相信。
甲小姐:在當下創業環境看,技術理想主義者是一個有利的詞嗎?
王小川:我認為任何領域都可能入「道」,茶有茶道,花有花道,而極致的技術理想主義者一定是一個純粹的理想主義者。
甲小姐:無論走哪條道路都能登上珠峰,但在通往AGI之路上,我相信你會逐漸面對很多選擇,不是強和弱的選擇,而是好與壞的選擇。
王小川:探索生命的意義是我永恆的主題。
-[文:甲子光年*作者:甲小姐、劉楊楠/鈦媒體]