更新時間:2025-05-13 21:38:32作者:佚名
圖片|視頻屏幕截圖
文字|唐元
山姆在接受印度媒體采訪(左)|在接受YouTube播客的采訪中標記(右)
標題圖片
那是阿吉時代前夕的另一天。像往常一樣,我打開手機后,我會在凌晨5點醒來,時間表在印度媒體ET上的Openai首席執行官Sam Altman的采訪中充斥著洪水泛濫,以及Mark Zuckerberg在著名的YouTube Broadcaster Lex ...中的Mark Zuckerberg采訪。
注意:被該主題吸引的朋友可以看到投資和企業家精神的方向可以直接跳到文章的結尾(AI2Paradigam)。
阿爾特曼在印度說了什么
山姆·奧特曼(Sam Altman):“這項工作的方式是,我們要告訴您,與我們不應該嘗試的培訓基礎模型競爭是完全沒有希望的,無論如何都喜歡嘗試。而且我相信這兩種事情。我認為這是非常絕望的”
Ultraman Sam:“我們打算告訴您的是,以一種務實且可行的方式與我們在培訓基本模型中與我們競爭的方式是完全沒有希望的。您不應該嘗試。如果您真的愿意嘗試一下。
當當地的印度投資者要求“像GPT這樣的基本大型模型,印第安人和印第安人應該如何發展”時,Altman回答了上述答案。
這讓我想起了阿爾特曼(Altman)不久前簽署超級人工智能治理宣言時的語氣 - 讓那些玩小型模特的人拋在一邊,這引起了當時包括埃隆·馬斯克(Elon Musk)的一群AI巨人的不滿。我的其他官方帳戶文章中有生動的描述。看:
“超級人工智能治理宣言中的開源小型模型在AI行業中引起了不滿”
應該說,這一說法上次非常微妙,而且似乎奧特曼認為只有Openai有資格談論超級人工智能。這次,這是針對一組“ Asan”,而從視頻中則是Sam。在這次全球中亞巡回演出中與以色列一起旅行的伊利亞沒有在場。看來她已經完全放松了。
我想知道印度技術和人工智能在遇到這樣的陳述時感覺如何?
作者不敢想象如果奧特曼進行了全球訪問,包括中國大陸...
扎克伯格在Lex的采訪中所說的話
馬克·扎克伯格:
我的意思是,有些人正在當地設備奔跑,因此,如果您只是一個人想在家嘗試這個設備,那么您可能沒有很大的預算來訪問大量的云計算。因此,在當地的筆記本電腦上運行,很好,正確,對嗎?我們可以在較少的計算中做到這一點,這是更有效的,為每個使用此服務的人節省了很多錢。”
“我們專注于建立在這里的主要事情,很多產品經驗來幫助人們結成并表達自己。播種,我會談論一堆這些東西,但是您將有一個助手,您可以與您交談的助手,我認為,我認為每個創造者都可以在他們的ai中善于助人,以至于他們可以對他們的behalf進行良好的態度,以至于他們的愿望可以與您的beb to to potherf the to to to to to to to to to to to to the to to to to to to to to the toi to to toi to toi tosi to toi。人們可以說話,您知道貿易和客戶支持這樣的事情。
馬克·扎克伯格:
“我的意思是,有些人現在試圖在本地設備上運行prompting是什么意思,好的,所以,如果您只是想在家嘗試這個,您可能沒有很多預算來獲得很多云計算資源。因此,在本地筆記本電腦上運行,對嗎?我們自己的版本,我們可以在少量計算資源上做到這一點。
“這里的重點是如何利用羊石來改善更多的產品體驗,以幫助人們建立聯系和表達自己。因此,我們計劃,我已經對此進行了很多談話,您將有一個可以在WhatsApp中與之交談的助手,我認為,我認為,每個創造者都會有一個AI代理人,他們會像他們那樣的粉絲,我可以與您交談,我可以與您交談,以便您能夠與您交談,因此,您可以與您交談,因此,您可以與您交談,以便您和小型企業都能與您交談,因此,您和小企業都可以與您交談,因此,您和小型企業都可以與您交談。上面。這樣做很多,駱駝或基本的AI大語模型基本上是支持這一切的引擎。”
Lex和Zuckerberg在采訪中提到的Llama.CPP正是我最近關注的。
項目URL :()
Llama.cpp的主要目標是使用MacBook上的4位整數量化運行Llama型號
- 無依賴關系的普通C/C ++實現
- 蘋果芯片的一流公民 - 通過手臂霓虹燈,加速器和金屬框架優化
- 用X86體系結構支持AVX,AVX2和AVX512
- 混合F16/F32精度
- 支持4位,5位和8位整數
- 支持OpenBlas/Apple Blas/Arm Performance lib/atlas/blis/intel mkl/nvhpc/acml/scsl/sgimath等
- 公共和clblast支持
Llama.cpp的最初實施被黑客入侵。從那以后,由于許多人的貢獻,該項目得到了極大的改善。該項目用于教育,并作為開發GGML圖書館新功能的主要測試站點。
Llama.CPP項目最近支持Apple Silicon的GPU,并在金屬支持下構建時,您可以使用-GPU layer | -NGL命令行參數來啟用GPU推理。大于0的任何值都會將計算卸載到GPU。
作者最近還在他的MBP上品嘗了一些東西。運行4位定量Llama 7b模型可以以每秒40多個令牌的速度運行,并且在GPU上完全運行。
“ Llama.cpp Metal Build支持MAC設備prompting是什么意思,以使用GPU運行LLM推理過程,版本7B大于40tokens/sec”
Llama.cpp和Silicon Valley Angel Portfolio Nat&DG的故事
Llama.cpp(@ggerganov)的作者剛剛被Silicon Valley Angel Portfolios Nat和DG發現并投資。 NAT和DG分別是Microsoft(GitHub Project)和Apple(AI項目)的前高管。他們目前正在進行天使投資。 DG投資了許多知名項目,NAT具有更深的技術背景。最近,基于類似于Llama.cpp的開源模型,Llama.cpp是開源LLMS(Playgound)的測試網站。
從上圖可以看出,DG投資確實有毒。其中,無花果于去年被Adobe以200億美元的價格收購,目前正在與Firefly融為一體。將來,生成AI可能可以單擊一鍵生成應用程序。
關于DG和NAT,一篇文章分析了Apple的Vision Pro發行時,分析了Apple的人工智能發展路徑:也提到了:
“ DG在一次采訪中提到蘋果一直在使用模型來改善終端智能”
在文章中提到的訪談中(在2022年10月發布之前),DG提到他過去負責蘋果的機器學習DRI項目(DRI,直接負責的個人,蘋果公司直接負責人” DRI一詞,該術語是指負責在任何特定項目中負責的人。這個想法是每個項目都具有DRI的責任,并且他對該項目進行了更高的責任,并以此為特定的項目,該項目的重點是成功的。方法智能。
出乎意料的是,在一年后的Vision Pro發布會上,蘋果展示了這一新功能,即由大型語言模型(LLM)提供動力的鍵盤。該鍵盤使用變壓器模型,可以在終端設備上運行并了解用戶的鍵入輸入模式。該學習過程可以在晚上通過Lora(開源LLM微調模型)完成。這是一個分段的方案,個人模型的迭代飛輪在終端設備上完成。
扎克伯格(Zuckerberg)提到,將Llama.cpp用于WhatsApp作為通信助理的使用已經領先。作者認為,小Zha一定已經看到了新應用程序(例如Discord)對自己的產品WhatsApp的最新競爭壓力。更不用說Midjourney完全使用Discord上的超級頻道(100萬人)來開展MJ的C-End業務。最近,隨著Transformer Mafia 8成員的第二個兒子Noam啟動了角色。 (官方帳戶中的另一篇文章中提到的角色。
“社區統計的新每周AI應用 - 基于不和諧的角色AI開源網校頭條,以實施OpenSouls排名第二”
GPT現象作者的思想和觀察投資和企業家方向
一方面,蘋果的人工智能開發就像元一樣,專注于自己的產品體驗,并利用自己的硬件和芯片優勢,就像梅塔堅持使用meta-Universe的方向一樣,并希望將Llama.cpp用于自己的一系列產品,例如WhatsApp。
另一方面,通過阿爾特曼(Altman)和扎克伯格(Zuckerberg)的最新聲音,我還通過探索GPT現象深入促進了作者對投資和企業家精神的方向的思考。 Openai必須朝著超級人工智能的方向瘋狂地運行。我還分析了Meta的AI的開發路線,但它仍然對Meta宇宙不屈不撓。這些美國巨人在這浪路線上采取了差異化路線。取而代之的是看目前的國內AI狀況,成千上萬的模型的匆忙不禁讓人們感到焦慮。
我目前的思想認為
有成千上萬的AI路徑,基于GPT本地創業方向,目前有三個類別(從前兩個類別升級):
預訓練 - 基礎LLM。語言具有超模式的狀態,是進入AGI的唯一方法。它與OpenAI競爭或用于本地企業部署方案; (對此總是有不同的看法,5月9日在北京齊尤恩會議上的演講是基于“邁向可以學習,理性和計劃的大型模型”。如果您有機會,作者也可以總結Yann和Ilya之間的差異,這應該很有趣)
大型模型挖掘(提示) - 大型模型中有許多應用程序,我個人更喜歡MJ或targinai的GPT天然模式。其他B端僅具有分階段的價值空間,以增強和改善現有業務AI。為什么說這是一個分階段的價值空間?因為巨大的煉金術將導致無處不在的模型,并且物理世界的轉型范式發生了革命性的變化,并且將出現新的商業模式,該模型將完全重建現有的B側業務。可以比較想象:工業化的出現后,農業不再是主要生產情況。
基于開源llm的任何位置和Anydevices也有模型:
蒸餾 - 蒸餾小型型號可以提供終端智能或個人助理模型:基于開源模型,類似于llma.cpp的設備內推理場景,在線數字克隆產品和其他本機方向。根據欣頓先生的說法,大型模型蒸餾類似于從教授到人類大學學生的教育知識的教學。
參考
-Mark Zuckerberg:Meta,Facebook,Instagram和WhatsApp的AI未來
| Lex Fridman播客#383
- 本·湯普森(Ben Thompson):丹尼爾·格羅斯(Daniel Gross)和納特·弗里德曼(Nat Friedman)的采訪有關AI的民主化
結尾
掃描QR碼加入組,
總是改變AI!
AI風格的讀者