隨著復(fù)雜性的增長(zhǎng)，大模型必須能夠在更長(zhǎng)的對(duì)話中保持上下文，執(zhí)行更復(fù)雜的任務(wù)，并響應(yīng)數(shù)據(jù)中更微妙的線索。例如，像ChatGPT當(dāng)前的LLMs可以在單次對(duì)話中生成令人印象深刻的連貫且與上下文相關(guān)的回應(yīng)。但在長(zhǎng)期交流中的上下文或處理復(fù)雜邏輯推理任務(wù)時(shí)，還存在很多困難。為了克服這一限制，未來(lái)的模型將需要實(shí)現(xiàn)更好的記憶機(jī)制和更復(fù)雜的處理能力，以便“思考”更長(zhǎng)時(shí)間。

隨著計(jì)算能力的持續(xù)增長(zhǎng)，走在前列的大模型企業(yè)關(guān)注的重點(diǎn)逐漸從簡(jiǎn)單地?cái)U(kuò)展模型轉(zhuǎn)向更高效和更具上下文智能發(fā)展。涉及神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)算法以及人工智能系統(tǒng)處理和保留信息的方式的技術(shù)進(jìn)步的結(jié)合。未來(lái)有了更智能、思考更長(zhǎng)時(shí)間的模型，人工智能可以變得更適應(yīng)性，允許與用戶進(jìn)行更個(gè)性化、更準(zhǔn)確、更有洞察力的互動(dòng)。如果技術(shù)有進(jìn)一步落地，人工智能應(yīng)用也將會(huì)實(shí)現(xiàn)在從醫(yī)療保健到金融到客戶服務(wù)等多個(gè)行業(yè)的突破。

Ilya Sutskever強(qiáng)調(diào)了人工智能研究中的關(guān)鍵時(shí)刻：隨著LLMs的預(yù)訓(xùn)練階段達(dá)到其極限，未來(lái)的進(jìn)展取決于開(kāi)發(fā)更智能的訓(xùn)練技術(shù)和提高模型在更長(zhǎng)時(shí)間內(nèi)保持上下文的能力。對(duì)于大模型企業(yè)來(lái)說(shuō)，正確選擇擴(kuò)展的方向比以往任何時(shí)候都更為重要。大模型企業(yè)必須重新思考處理模型擴(kuò)展的方法，少關(guān)注簡(jiǎn)單地增加更多數(shù)據(jù)和計(jì)算資源，更多地關(guān)注完善訓(xùn)練過(guò)程和開(kāi)發(fā)能夠更深入、更連貫地推理的模型。

SSI（Safe Superintelligence）由Ilya Sutskever、Daniel Levy和Daniel Gross三人創(chuàng)立，旨在開(kāi)發(fā)遠(yuǎn)超人類能力的安全人工智能系統(tǒng)。他們的首要產(chǎn)品將是關(guān)于超級(jí)智能的安全。盡管沒(méi)有發(fā)布任何產(chǎn)品，SSI在三個(gè)多月內(nèi)籌集了10億美元現(xiàn)金，公司估值達(dá)到50億美元。Ilya Sutskever是人工智能領(lǐng)域最具影響力的技術(shù)專家之一，曾師從被稱為“人工智能教父”的Geoffrey Hinton。Daniel Gross曾擔(dān)任蘋(píng)果公司AI技術(shù)負(fù)責(zé)人，也曾是前Y Combinator合伙人，而Daniel Levy則是OpenAI的前員工。