更多
- 話題1/3
11958 熱度
6212 熱度
13013 熱度
5993 熱度
1968 熱度
- 置頂
- 🎉Gate 2025 上半年社區盛典：內容達人評選投票火熱進行中 🎉
🏆 誰將成爲前十位 #Gate广场# 內容達人？
投票現已開啓，選出你的心頭好
🎁贏取 iPhone 16 Pro Max、限量週邊等好禮！
📅投票截止：8 月 15 日 10:00（UTC+8）
立即投票: https://www.gate.com/activities/community-vote
活動詳情: https://www.gate.com/announcements/article/45974
- 📢 #Gate广场征文活动第二期# 正式啓動！
分享你對 $ERA 項目的獨特觀點，推廣ERA上線活動， 700 $ERA 等你來贏！
💰 獎勵：
一等獎（1名）： 100枚 $ERA
二等獎（5名）： 每人 60 枚 $ERA
三等獎（10名）： 每人 30 枚 $ERA
👉 參與方式：
1.在 Gate廣場發布你對 ERA 項目的獨到見解貼文
2.在貼文中添加標籤： #Gate广场征文活动第二期# ，貼文字數不低於300字
3.將你的文章或觀點同步到X，加上標籤：Gate Square 和 ERA
4.徵文內容涵蓋但不限於以下創作方向：
ERA 項目亮點：作爲區塊鏈基礎設施公司，ERA 擁有哪些核心優勢？
ERA 代幣經濟模型：如何保障代幣的長期價值及生態可持續發展？
參與並推廣 Gate x Caldera (ERA) 生態周活動。點擊查看活動詳情：https://www.gate.com/announcements/article/46169。
歡迎圍繞上述主題，或從其他獨特視角提出您的見解與建議。
⚠️ 活動要求：
原創內容，至少 300 字， 重復或抄襲內容將被淘汰。
不得使用 #Gate广场征文活动第二期# 和 #ERA# 以外的任何標籤。
每篇文章必須獲得 至少3個互動，否則無法獲得獎勵
鼓勵圖文並茂、深度分析，觀點獨到。
⏰ 活動時間：2025年7月20日 17
- 📢 ETH衝擊4800？我有話說！快來“Gate廣場”秀操作，0.1 ETH大獎等你拿！
牛市預言家，可能下一個就是你！想讓你的觀點成爲廣場熱搜、贏下ETH大獎？現在就是機會！
💰️ 廣場5位優質發帖用戶+X瀏覽量前5發帖用戶，瓜分0.1 ETH！
🎮 活動怎麼玩，0門檻瓜分ETH！
1.話題不服來辯！
帶 #ETH冲击4800# 和 #ETH# 在 廣場 或 K線ETH下 圍繞一下主題展開討論：
-ETH是否有望突破4800？
-你看好ETH的原因是什麼？
-你的ETH持倉策略是？
-ETH能否引領下一輪牛市？
2. X平台同步嗨
在X平台發帖討論，記得帶 #GateSquare# 和 #ETH冲击4800# 標籤！
把你X返連結提交以下表單以瓜分大獎：https://www.gate.com/questionnaire/6896
✨發帖要求：
-內容須原創，字數不少於100字，且帶活動指定標籤
-配圖、行情截圖、分析看法加分，圖文並茂更易精選
-禁止AI寫手和灌水刷屏，一旦發現取消獎勵資格
-觀點鮮明、邏輯清晰，越有料越好！
關注ETH風向，創造觀點價值，從廣場發帖開始！下一個牛市“預言家”，可能就是你！🦾🏆
⏰ 活動時間：2025年7月18日 16:00 - 2025年7月28日 23:59（UTC+8）
【立即發帖】 展現你的真知灼見，贏取屬於你的ETH大獎！
- 🎉 #Gate Alpha 第三届积分狂欢节 & ES Launchpool# 聯合推廣任務上線！
本次活動總獎池：1,250 枚 ES
任務目標：推廣 Eclipse（$ES）Launchpool 和 Alpha 第11期 $ES 專場
📄 詳情參考：
Launchpool 公告：https://www.gate.com/zh/announcements/article/46134
Alpha 第11期公告：https://www.gate.com/zh/announcements/article/46137
🧩【任務內容】
請圍繞 Launchpool 和 Alpha 第11期 活動進行內容創作，並曬出參與截圖。
📸【參與方式】
1️⃣ 帶上Tag #Gate Alpha 第三届积分狂欢节 & ES Launchpool# 發帖
2️⃣ 曬出以下任一截圖：
Launchpool 質押截圖（BTC / ETH / ES）
Alpha 交易頁面截圖（交易 ES）
3️⃣ 發布圖文內容，可參考以下方向（≥60字）：
簡介 ES/Eclipse 項目亮點、代幣機制等基本信息
分享你對 ES 項目的觀點、前景判斷、挖礦體驗等
分析 Launchpool 挖礦 或 Alpha 積分玩法的策略和收益對比
🎁【獎勵說明】
評選內容質量最優的 10 位 Launchpool/Gate - 🎉【Gate 3000萬紀念】曬出我的Gate時刻，解鎖限量好禮！
Gate用戶突破3000萬！這不僅是數字，更是我們共同的故事。
還記得第一次開通帳號的激動，搶購成功的喜悅，或陪伴你的Gate週邊嗎？
📸 參與 #我的Gate时刻# ，在Gate廣場曬出你的故事，一起見證下一個3000萬！
✅ 參與方式：
1️⃣ 帶話題 #我的Gate时刻# ，發布包含Gate元素的照片或視頻
2️⃣ 搭配你的Gate故事、祝福或感言更佳
3️⃣ 分享至Twitter（X）可參與瀏覽量前10額外獎勵
推特回鏈請填表單：https://www.gate.com/questionnaire/6872
🎁 獨家獎勵：
🏆 創意大獎（3名）：Gate × F1紅牛聯名賽車模型一輛
👕 共創紀念獎（10名）: 國際米蘭同款球員衛衣
🥇 參與獎（50名）：Gate 品牌抱枕
📣 分享獎（10名）：Twitter前10瀏覽量，送Gate × 國米小夜燈！
*海外用戶紅牛聯名賽車折合爲 $200 合約體驗券，國米同款球衣折合爲 $50 合約體驗券，國米小夜燈折合爲 $30 合約體驗券，品牌抱枕折合爲 $20 合約體驗券發放
🧠 創意提示：不限元素內容風格，曬圖帶有如Gate logo、Gate色彩、週邊產品、GT圖案、活動紀念品、活動現場圖等均可參與！
活動截止於7月25日 24:00 UTC+8
3
長文本成爲大模型新標配 國內外巨頭爭相突破40萬token
長文本能力成爲大模型公司的新"標配"
大模型正以驚人的速度提升其處理長文本的能力,從4000個token擴展到40萬個token。長文本處理能力似乎已成爲大模型廠商的又一新"標配"。
國外方面,OpenAI通過多次升級將GPT-3.5的上下文輸入長度從4千增至1.6萬token,GPT-4從8千增至3.2萬token。OpenAI的主要競爭對手Anthropic則一次性將上下文長度提升到10萬token。LongLLaMA更是將上下文長度擴展到25.6萬token甚至更多。
國內方面,大模型初創公司月之暗面推出的Kimi Chat可支持輸入20萬漢字,約合40萬token。港中文和MIT聯合開發的LongLoRA技術,可將7B模型的文本長度擴展到10萬token,70B模型擴展到3.2萬token。
目前,OpenAI、Anthropic、Meta、月之暗面等衆多頂級大模型公司和研究機構都將拓展上下文長度作爲升級重點。這些公司也都是資本市場追捧的熱門對象。OpenAI獲得近120億美元投資,Anthropic估值有望達到300億美元,月之暗面短短半年內完成近20億元融資。
大模型廠商競相攻克長文本技術,將上下文長度擴大100倍意味着什麼?
表面上看,這意味着模型可以輸入更長的文本,閱讀能力更強。GPT-3.5的4000 token僅能輸入約2000個漢字,而Kimi Chat的40萬token可支持輸入20萬漢字,足以閱讀一部長篇小說。
從更深層次看,長文本技術正在推動大模型在金融、司法、科研等專業領域的應用落地。在這些領域,長文檔摘要、閱讀理解、問答等能力是基礎需求,也是亟待智能化升級的方向。
然而,類似於模型參數,文本長度並非越長越好。研究表明,模型支持更長的上下文輸入並不直接等同於效果更好。關鍵在於模型如何有效利用上下文內容。
不過,目前國內外對文本長度的探索還未達到"臨界點"。各大模型公司仍在不斷突破,40萬token可能只是一個開始。
爲什麼要"卷"長文本?
月之暗面創始人楊植麟表示,正是由於大模型輸入長度受限,才造成了許多應用落地的困境。這也是各大模型公司當前聚焦長文本技術的原因所在。
例如,在虛擬角色場景中,由於長文本能力不足,虛擬角色會忘記重要信息。在開發劇本殺類遊戲時,輸入長度不夠會導致規則和設定被削減,無法達到預期效果。在法律、銀行等專業領域,深度內容分析和生成常常受挫。
長文本在未來Agent和AI原生應用中也扮演重要角色。Agent需要依靠歷史信息進行規劃和決策,AI原生應用需要上下文來保持連貫、個性化的用戶體驗。
楊植麟認爲,無論是文字、語音還是視頻,對海量數據的無損壓縮可以實現高程度的智能。大模型的上限由單步能力和執行步驟數共同決定,其中單步能力與參數量相關,執行步驟數即上下文長度。
同時,長文本可以通過提供更多上下文和細節信息,幫助模型更準確地判斷語義,減少歧義,提高推理準確性。
長文本技術既可以解決大模型早期的一些問題,增強某些功能,也是進一步推進產業應用落地的關鍵技術。這標志着通用大模型發展進入了從LLM到Long LLM的新階段。
以月之暗面新發布的Kimi Chat爲例,可以一窺Long LLM階段大模型的升級功能:
這表明,對話機器人正在向專業化、個性化、深度化方向發展,這或許是撬動產業應用和超級APP落地的又一抓手。
楊植麟認爲,國內大模型市場會分爲toB和toC兩個陣營。在toC領域,會出現基於自研模型的超級應用。
不過,目前市面上的長文本對話場景仍有很大優化空間。如不支持聯網獲取最新信息、生成過程無法暫停修改、仍偶爾出現胡說八道的情況等。
長文本的"不可能三角"困境
在長文本技術中,存在文本長短、注意力和算力的"不可能三角"困境:
這一困境的根源在於現有大模型主要基於Transformer結構。其中最重要的自注意力機制雖然能突破輸入順序的限制,但計算量會隨上下文長度呈平方級增長。
這就構成了"不可能三角"中的第一組矛盾:文本長短與注意力。同時,處理長文本需要更多算力,與算力稀缺的現狀又形成了第二組矛盾。
目前主要有三種解決方案:
借助外部工具輔助處理長文本,將長文本切分爲多個短文本處理
優化自注意力機制計算,如LongLoRA技術通過分組計算降低計算量
對模型進行優化,如LongLLaMA通過微調現有模型來支持更長序列
長文本的"不可能三角"困境或許暫時無解,但這也明確了大模型廠商的探索路徑:在文本長短、注意力和算力三者間尋求平衡,既能處理足夠信息,又能兼顧注意力計算與算力成本。