2023年の総括と予測

全体的に言えば、2023年は私の頭の中での変化はあまりありませんでしたが、生活の変化はより大きかったです。

自分自身に残したいと思うのは、2023年に私が時間を費やしたLLM領域のいくつかを選び、直感に基づいて1年（または5年）先の予測を書くことです。

2022年の予測では、ブロックチェーンとDeFiに関する予測は約50％が正確であり、中国の防疫政策に関する予測は約80％が正確であり、情報セキュリティに関する予測は約40％が正確でした。

大規模言語モデルの影響

• RAGによりLangChainを上回るオープンソースフレームワークが登場する：LangChainは現在バグが多く、管理もかなり混乱しており、コードの抽象化も満足のいくものではありません。OpenAIが次回のアップデートで新機能やAPIをリリースする際、より競争力のあるフレームワークが登場する可能性があります。
• AWSがOpenAI（Azure）のように廉価なAPIを提供し始める：Sagemakerは現在、LLAMA2などの大規模言語モデルのデプロイを提供し、中小企業にサービスを提供していますが、より多くのユーザーが必要とするのはファインチューニングではなく、より安価なAPIです。現在、80％のスタートアップ企業が使用しているのはRAGであり、最も必要としているのもAPIです。
• コンパイラと大規模言語モデルの組み合わせ：皆さんは徐々に気づくでしょう、アプリケーションレベルのコード補完であるCopilotだけでなく、大規模言語モデルはコンパイラのエラーメッセージやヒントなどの処理においても優れています。将来的には、エラーメッセージをコピーしてChatGPTに貼り付ける必要はありません。
• Copilotを凌駕するクリエイティブツールのプロダクト再構築：既存のツールに単にAIチャット機能を追加するだけでは不十分であり、AIのロジックに従ってプロダクト全体のインタラクションを再構築せざるを得ないという共通認識が、近いうちに形成されるでしょう。私が考えるクリエイティブなインタラクションの最も中核となる部分は、「創作、観察、ツールを用いた再創作、再観察、再調整」というサイクルです。このようなインタラクションは、単純な対話だけで完結するものではありません。NUIとGUIの安易な組み合わせが必ずしも機能するとは限らず、人間の行動習慣をより深く掘り下げ、より優れたツールを作り上げることが不可欠です。
• 検索エンジンの検索結果がより正確になる：大規模言語モデルはビデオ、画像、音声などのファイルのタグ付けを行うことができます。意味の理解もより正確であり、検索結果もより正確になる可能性があります。
• 大規模言語モデルをベースとした成熟したクローラーの登場：大規模言語モデルを中心にしたScrapyレベルのクローラーツールが登場し、情報収集を行うためのスタートアップ企業も登場するでしょう。

情報セキュリティとプライバシー

• プライバシー問題と著作権問題がますます深刻化する：大規模なAIの使用は、企業がデータの重要性を認識することにつながります。データが収集されると、漏洩や悪用のリスクが高まります。
• プロンプトインジェクション攻撃フレームワークの登場と成熟化：LLMとさまざまなサービスの組み合わせにより、XSSやSQLインジェクション攻撃の原理に似たプロンプトインジェクションが流行し始めます。
• クラウドサーバーの重大な障害頻度がさらに増加する：現在の中央集権化されたインターネット構造では、クラウドサービスはますます少数のベンダーに集中しています。これらのベンダーの製品ラインもますます複雑になっており、核心サービスもますます複雑になっています。将来の数年間で、AWSの大規模な障害に関するニュースを聞くことが必ずしも避けられません。
• LLMはシンボルインジェクション型のセキュリティソリューションに適用される：XSSフィルターには多くのルールを書くことができますが、インジェクション文字列があるかどうかをOpenAI APIに審査してもらった方が効果的かもしれません。OpenAI APIの応答時間は遅いかもしれませんが、応答が速く、モデルパラメータが少ないものを完全にトレーニングすることも可能です。
• LLMを中核としたペネトレーションテストツールの登場： ペネトレーションテストは一定の手順があり、処理するコンテンツも文字列と強く関連しているため、LLMを用いてツールセットを構築するのに非常に適しています。

中国の国内政策

• コンテンツ検閲への大規模言語モデルの適用：過去数年間、政府によるセキュリティ監視関連の受注が多くの顔認証企業を支えてきました。今後はソーシャルメディアの検閲分野において、政府からの案件が極めて重要になるでしょう。
• 軍需産業およびセキュリティ監視の受注数は前回の半導体・セキュリティブームを大幅に下回る：軍工系の人脈が摘発・整理された後、それに伴う人事調整の期間が必要となります。人事調整と政策調整は連動しており、人事調整が完了して初めて政策が調整されるのが、これまでの常套的な行動パターンです。
• 半導体や人工知能などの分野では画期的な成果は生まれない：過去60年間、科学研究から産業界に至るまで、陳伯達から肖亜慶に至るまで、ほぼ全員がおよそ3年ごとに政策に合わせて一転してきました。その結果、あらゆる技術分野において蓄積が極めて希薄となっており、画期的な成果が生まれる可能性は極めてわずかです。
• 投機的な投資の大幅な増加：政策の不安定さと不連続性により、すべての投資で想定される回収サイクルが短縮し、長期投資は中国から撤退するか、あるいは短期的な投機へと転換せざるを得なくなります。
• 集団抗議事態の増加：脱グローバル化に伴う景気後退の現状と見通しに変化がない中、企業は人件費をさらに削減する意思決定を下すと予想されます。過去に蓄積された問題は徐々に周縁部から中枢部へと波及し、集団抗議事態はますます増加し、各構成要素間の緊張関係は一層高まるでしょう。

ハイデッガーは詩とは思索のもう一つの側面であると言いました（詩と思索は語り告げる様式であり、とりわけ際立った様式である）。そこで、私は俗っぽく、自らの俗っぽい人生のために俗っぽい詩を1篇書くことにします。さようなら、2023年！