stateof.ai 發布了 2023 年度人工智能現狀報告 (State of AI Report 2023)。
這份報告由英國知名風投公司 Air Street Capital 的合伙人 Nathan Benaich 等作者聯合撰寫，報告從研究進展 (Research)、行業局勢 (Industry)、政策影響 (Politics)、安全問題 (Safety)、未來預測 (Predictions) 五個維度出發，對人工智能發展現狀和未來預期進行了深度分析。
完整報告查看：https://docs.google.com/
報告稱，OpenAI 的 GPT-4 在發布八個月后仍然是最強的大語言模型（LLM），“在經典基準測試和旨在評估人類的考試中都擊敗了所有其他大模型”。
下面是這份報告的要點。
1、研究進展
-
GPT-4 登場，展示了專有技術與次優開源替代方案之間的能力鴻溝，同時也驗證了通過人類反饋進行強化學習的威力；
-
在 LLaMa-1/2 的支持下，越來越多的人試圖用更小的模型、更好的數據集、更長的上下文來克隆或擊敗專有模型；
-
目前還不清楚人類生成的數據能維持人工智能擴展趨勢多久（有人估計，到 2025 年，數據將被 LLM 耗盡），也不清楚添加合成數據會產生什么影響。企業中的視頻和數據可能是下一個目標；
-
LLM 和擴散模型通過為分子生物學和藥物發現帶來新的突破，繼續為生命科學界提供助力；
-
多模態成為新的前沿，各種智能體熱度大大增加。
2、行業局勢
-
英偉達憑借各國、初創公司、大型科技公司和研究人員對其 GPU 的巨大需求，躋身市值萬億美元俱樂部；
-
主要芯片供應商開發了不受出口管制影響的替代產品；
-
在 ChatGPT 的帶領下，GenAI 的應用程序在圖像、視頻、編碼、語音或 CoPilots 等領域取得了突破性的進展，帶動了 180 億美元的風險投資和企業投資。
3、政策影響
-
世界已劃分出明確的監管陣營，但全球治理的進展仍較為緩慢，最大的人工智能實驗室正在填補這一空白；
-
據預測，人工智能將影響一系列敏感領域，包括選舉和就業，但我們還沒有看到顯著的影響。
4、安全問題
-
關于生存風險的討論首次進入主流，并明顯加??；
-
許多高性能的模型很容易「越獄」，為了解決 RLHF 的挑戰，研究人員正在探索替代方案，例如自對齊（self-alignment）和帶有人類偏好的預訓練；
-
隨著模型性能的提升，一致地評估 SOTA 模型變得越來越困難。
