全体的に言えば、2023年は私の頭の中での変化はあまりありませんでしたが、生活の変化はより大きかったです。
自分自身に残したいと思うのは、2023年に私が時間を費やしたLLM領域のいくつかを選び、直感に基づいて1年(または5年)先の予測を書くことです。
2022年の予測では、ブロックチェーンとDeFiに関する予測は約50%が正確であり、中国の防疫政策に関する予測は約80%が正確であり、情報セキュリティに関する予測は約40%が正確でした。
大規模言語モデルの影響
- Langchainよりも優れたオープンソースフレームワークが登場する:Langchainには現在多くのバグがあり、管理も混乱しており、コードの抽象化も満足できるものではありません。OpenAIは次の機能やAPIのイテレーションで、より競争力のあるフレームワークが登場するかもしれません。
- AWSがOpenAI(Azure)のように廉価なAPIを提供し始める:Sagemakerは現在、LLAMA2などの大規模言語モデルのデプロイを提供し、中小企業にサービスを提供していますが、より多くのユーザーが必要とするのはファインチューニングではなく、より安価なAPIです。現在、80%のスタートアップ企業が使用しているのはRAGであり、最も必要としているのもAPIです。
- コンパイラと大規模言語モデルの組み合わせ:皆さんは徐々に気づくでしょう、アプリケーションレベルのコード補完であるCopilotだけでなく、大規模言語モデルはコンパイラのエラーメッセージやヒントなどの処理においても優れています。将来的には、エラーメッセージをコピーしてChatGPTに貼り付ける必要はありません。
- クリエイティブツールの製品再構築:すぐに皆さんは合意に達するでしょう、AIチャットの機能を既存のツールに追加するだけでは不十分であり、製品のインタラクションをAIの論理に基づいて再構築する必要があります。私が見ているクリエイティブインタラクションの中で最も重要なのは、クリエイティブ、観察、ツールの使用、再びクリエイティブ、再び観察、再び調整です。このようなインタラクションは単純な会話だけでは完了しません。単純なNUIとGUIの組み合わせだけでは必ずしも効果的ではなく、人間の習慣をより深く探求し、より優れたツールを作り出す必要があります。
- 検索エンジンの検索結果がより正確になる:大規模言語モデルはビデオ、画像、音声などのファイルのタグ付けを行うことができます。意味の理解もより正確であり、検索結果もより正確になる可能性があります。
- 大規模言語モデルをベースとした成熟したクローラーの登場:大規模言語モデルを中心にしたScrapyレベルのクローラーツールが登場し、情報収集を行うためのスタートアップ企業も登場するでしょう。
情報セキュリティとプライバシー
- プライバシー問題と著作権問題がますます深刻化する:大規模なAIの使用は、企業がデータの重要性を認識することにつながります。データが収集されると、漏洩や悪用のリスクが高まります。
- プロンプトインジェクション攻撃フレームワークの登場と成熟化:LLMとさまざまなサービスの組み合わせにより、XSSやSQLインジェクション攻撃の原理に似たプロンプトインジェクションが流行し始めます。
- クラウドサーバーの重大な障害頻度がさらに増加する:現在の中央集権化されたインターネット構造では、クラウドサービスはますます少数のベンダーに集中しています。これらのベンダーの製品ラインもますます複雑になっており、核心サービスもますます複雑になっています。将来の数年間で、AWSの大規模な障害に関するニュースを聞くことが必ずしも避けられません。
- LLMはシンボルインジェクション型のセキュリティソリューションに適用される:XSSフィルターには多くのルールを書くことができますが、インジェクション文字列があるかどうかをOpenAI APIに審査してもらった方が効果的かもしれません。OpenAI APIの応答時間は遅いかもしれませんが、応答が速く、モデルパラメータが少ないものを完全にトレーニングすることも可能です。
- LLMを中心としたペネトレーションテストツールの登場:ペネトレーションテストは一定の手順と高度な文字列に関連する内容を扱うため、LLMを使用してツールセットを構築するのに非常に適しています。<b>
</b>
1: 中国の国内政策<b>
- </b>
2: 大規模言語モデルのコンテンツ検閲への応用:過去数年間、政府のセキュリティ注文により、顔認識を行う企業が多く生まれました。将来的には、政府からの注文はソーシャルメディアの監査において非常に重要です。<b> - </b>
3: 軍事およびセキュリティの注文数は前回のチップおよびセキュリティの注文よりもはるかに少ないです。軍事関連の人員が調査およびクリーンアップされた後、人事調整には時間がかかります。人事調整と政策調整は同じ頻度で行われ、人事調整が終了した後に政策が調整されます。これは一貫した行動パターンです。<b> - </b>
4: チップ、人工知能などにおいて画期的な仕事は生まれません。過去60年間、研究から企業界まで、陳伯達から肖亞庆まで、ほぼすべての人が3年ごとに政策に従って周期を転換するため、どの技術方向でも蓄積は比較的弱いです。したがって、画期的な仕事が生まれる可能性は非常に低いです。<b> - </b>
5: 投機的な投資が大幅に増加しています。不安定で一貫性のない政策のため、すべての投資計画のサイクルが短くなりました。長期投資は中国から撤退するか、短期的な投機に変わります。<b> - </b>
6: 集団的な事件の増加:グローバリゼーションの結果としての経済の低迷と予想の変化がないため、企業は人件費をさらに削減する決定をすると予想されます。過去に蓄積された問題が徐々に境界から中核部分に広がり、集団的な事件がますます増え、各構成要素間の緊張が高まります。<b>
</b>
7: ハイデッガーは詩が考えるもう一つの側面であると言いました(詩は考えるための方法であり、それが突出した方法である)。私は俗人の人生に俗人の詩を書くためにここに来ました。さようなら、2023年!<b>
</b>
8: 海底6000メートル、大気20000リーグ<b>
</b>
9: バブルと波が激しく押し寄せ、昼夜を問わず<b>
</b>
10: 雨滴が天地の間を激しく流れる<b>
</b>
11: 無数の思いが心に押し寄せる<b>
</b>
12: 人生は一瞬の軽やかさで漂う<b>
</b>
13: 世界は私に出会った<b>
</b>
14: 10億年の太陽は明日も普通に昇ります<b>