ジャーナル記事
さようなら、Calliope
少し前に、私たちは最も古いモデルである Calliope を引退させました。EleutherAI の GPT-Neo 2.7B をベースにした、大規模言語モデルのファインチューニングへの最初の一歩となったモデルです。
少し前に、私たちは最も古いモデルである Calliope を引退させました。EleutherAI の GPT-Neo 2.7B をベースにしたこのモデルは、大規模言語モデルのファインチューニングへ踏み出す最初の一歩となりました。多くの失敗もありましたが、彼女を作り上げる過程から学んだことも数多くありました。
NovelAI がクローズドアルファテストを終えた直後に EleutherAI が GPT-J 6B を公開し、こちらがはるかに高性能で、後の Sigurd モデルの基礎となりました。そのため Calliope が活躍する機会はほとんどなく、モデル選択リストの中でほぼ使われないまま過ごすことになりました。
Clio のリリース後は、Calliope は最速のモデルですらなくなり、いよいよ役目を終えるときが来ました。
そこで、懐かしさと記録の保存、そして歴史的な意義のために、Calliope モデルのウェイトを GPL-2.0 ライセンスのもと Hugging Face Hub で公開することにしました。
あなただけの Calliope はこちらから!

Calliope のオリジナルイラスト:@illustratesTarm