すごい勢いでLLMがリリースされています。
独自のデータで学習されたものもあれば、ファインチューニングされたものもあります。
詳しく読み込んだり、試したりするには時間がいくらあっても足りないので、
とりあえずリストアップし、適時追っていく方針。
Stable AI の FreeWilly
FreeWilly1
LlaMA 65B がベース
FreeWilly2
LlaMA 2 70B がベース
Azure OpenAI
料金
モデル コンテキスト プロンプト (1,000 トークンあたり) 完了 (1,000 トークンあたり)
GPT4 32K $0.06 $0.12
韓国 UpStage の LLM
Hugging Face のスコアで１位を獲得
LINE の LLM japanese-large-lm
japanese-large-lm-3.6b
https://engineering.linecorp.com/ja/blog/3.6-billion-parameter-japanese-language-model
https://huggingface.co/line-corporation/japanese-large-lm-3.6b