第1回 NovelAI 配信・Q&A まとめ

まずは、初めての NovelAI Twitch 配信を最高の時間にしてくださり、ありがとうございました。質問にお答えし、チャットで語り合い、NovelAI のこれからへの期待を感じられた、とても楽しいひとときでした。ここからは、配信で扱った内容をまとめてお届けします。

配信を担当した3人を改めてご紹介します。 ガチョウの画像の向こう側にいるのが、NovelAI のプロジェクトリードである Kurumuz 。 TabloidA は UI の美しさと使いやすさを担うデザイナー。そして Aini がコミュニティマネージャーです。

配信は、2022年の大きなプロジェクトへとつながるこれまでの歩みの振り返りから始めました

NovelAI 2021–2022 Roadmap

NovelAI 2021〜2022年のロードマップ

2021年4月28日 チーム結成

2021年6月15日 太平洋時間午前10時、Calliope 2.7B とともにベータ版を公開

2021年7月2日 全プランで Sigurd V3 を提供開始

2021年7月30日 Opus プラン向けにカスタム AI モジュールの学習を提供開始

2021年10月6日 Phrase Bias

2021年11月10日 Opus 向けに Sigurd V4、Opus 向けに Python コード用の Snek GPT-6b モデル、全プラン向けに日本語ストーリーテラーモデル Genji GPT-6b

2021年12月18日 無料トライアル、UI 刷新、チュートリアル

2022年2月6日 全プラン（無料トライアルを含む）で Euterpe V2 と、Euterpe 向けカスタム AI モジュール学習

NovelAI の次の一手は？

当面の最優先は、 ファインチューニングを施した GPT-NeoX 20B の AI モデル の公開です。すべてが計画どおりに進めば、7日以内には完了する見込みです。

NovelAI TTS： ニューラルネットワークを用いた、自社ホストの高品質な音声読み上げエンジンです。

スクリプティング： 唯一無二の NovelAI 体験を、自分でプログラムして作れるようにします。

公式 NovelAI Explore プラットフォーム： シナリオ、プリセット、モジュール、スクリプト体験、テーマなど、あらゆる NovelAI 形式のコンテンツを集約する、コミュニティ主導の公式リポジトリです。外部の NovelAI コンテンツを直接サービス内に取り込む機能も備えます。内部リポジトリには NSFW コンテンツは掲載しません。他のクリエイターが分散して公開している作品にも、プラットフォームを離れずにアクセスできるようにすることを目指します。このサービスには API 仕様も用意し、各自のプラットフォームに組み込んで、外部でホストしているコンテンツに NAI 経由でアクセスできるようにします。

このサービスを作り上げていくにあたり、ご提案やご意見をお待ちしています。

まったく新しく生まれ変わるテキストアドベンチャーの AI と UI： 理解力とできることの幅を広げ、対話性を高めます。

それでは、いよいよ本題の Q&A です

20B Neo-X の AI モデルはいつ？ おそらく来週中には。

20B は他の AI モデルと比べてどうですか？
6B から 13B へ移ったときほどの、はっきり体感できる性能の飛躍はありません。ただ、良いファインチューニングによって力を引き出したいと考えています。

現時点での 20B のコンテキストサイズは？
現在は 1600 トークンで動いていますが、通常の 2048 トークンを目指しています。

20B は 13b と比べて遅いですか？
はい、生成にかかる時間は 13b のおよそ2倍です。

20b はカスタム AI モジュール対応と同時に公開されますか？
20b の公開時にカスタム AI モジュールの学習も使えるよう進めたいと考えていますが、お約束はできません。

20B モデルのイラストは男性になりますか？
はい、次のモデルは男性です。NovelAI の AI モデルは男女交互という流れを保っています。

NovelAI の経営は順調ですか？
財務の話にはあまり触れたくないのですが、サービスは順調です。

NovelAI のマルチプレイは予定していますか？
マルチプレイは当初から社内の希望リストに入っていますが、現時点で時期は未定です。私たちが思い描くのは共同執筆に近い形で、たとえば Google ドキュメントのようなイメージです。

早期アクセスがあったのに、なぜ他のサービスのほうが先に 20B を出したのですか？
私たちのファインチューニング用データセットは非常に大きく、最良の体験をお届けするために学習をやり切りたかったからです。

スクリプティングは AIDungeon のものと比べてどうなりますか？対応する言語は？
スクリプティングとその機能は大きく広げていきたいと考えています。対応言語としては JavaScript と WebAssembly を想定しています。

カスタム AI モジュールに画像を簡単に差し込めるようになりますか？また、以前出回っていた NovelAI の画像生成の試作はどうなりましたか？
昨年12月にピクセル生成の試作を作りましたが、他のプロジェクトが優先されて後回しになりました。将来的には、カスタム AI モジュールや、今後の NovelAI Explore プラットフォームでの活用を計画しています。

画像は事前に生成されたものですか？
いいえ、入力内容に応じてその都度生成されます。

AI が生成した画像のサンプルはありますか？
Discord の #bob-ross チャンネルでいくつかご覧いただけます。ただし、そこにいる Discord ボットは12月に試作したピクセル版ではありません。あくまで試作段階のものであり、NovelAI への最終的な画像機能の実装がどうなるかはまだ分かりませんので、その点はご承知おきください。

プロンプト： mermaid princess. Your hair is a dreamlike shade of pink, flowing endlessly below your waist. Your ears are slightly pointed, as are your canines. A magnificent pink mermaid tail replaces your legs.

プロンプト： Exploding kittens

プロンプト： Yellow Water Lake

シェルフの中にシェルフを入れる（入れ子）機能は来ますか？
はい、入れ子のシェルフはデザイン上はすでに用意できていますが、機能の実装はこれからです。

GooseAI とは何ですか？ NovelAI がおろそかになりませんか？
GooseAI は、NovelAI が CoreWeave と組み、私たちの技術力と知見を B2B 領域で活かすための取り組みです。OpenAI のコストや規約が壁になっていた方々の、AI を使った製品づくりを後押ししたいと考えています。OpenAI の料金体系は入力トークンにも課金するため、チャットボットや物語系のアプリのように、常に大量のトークンを送り続ける対話型の製品では負担が大きくなりがちです。GooseAI ではそうした用途にも使えるよう、生成されたトークンのみを課金対象としています。NovelAI から関心を奪うものではなく、Anlatan を広げるための取り組みです。

新しい TTS は 15.ai がベースですか？
いいえ、新しい TTS サービスは自社でホストしています。

Pro Writer 2 をデフォルトプリセットに追加する予定はありますか？
Pro Writer の追加は予定しています。Basileus さんからすでに許可をいただいています。

TFS や top-k のような不具合を今後防ぐために、どんな品質管理を行っていますか？
ノードの生成についてテストケースを書くなど、できるかぎりバグを捕まえる努力をしています。ただ、ノード側の問題は捕捉が難しいこともあります。この点は今後改善していきたいと考えています。

13b と比べて 20b で生成するほうが計算コストは高いのですか？ はい、rotary embeddings とサイズの違いにより、ほぼ2倍のコストになります。

AIDungeon の Dragon のような高性能モデルを超えることを目指していますか？
一部の側面では、すでに Dragon の性能を上回っていると考えています。

チームはテスト以外でも NovelAI で遊びますか？
はい。ただ、その多くは品質確認を目的としたプレイです。

言い換え機能（文章を書くと AI が特定の文体で書き直してくれる）に対応しますか？
現時点でロードマップには入っていませんが、言い換えは間違いなく実現したい機能の一つです。

チャットボット用の UI や、AI の出力を止める stop sequence 機能を追加しますか？
チャットボット向けのインターフェースを実装する予定はありません。ただし、特定の停止文字列やトークンが出たときに生成を止める stop sequence 機能は実装したいと考えています。

Knowledge Graph は実現しますか？
いいえ、Knowledge Graph は実現しません。私たちの目的にとって理想的な手法ではないという結論に至りました。ただ、同じ目標を別の方法で達成できないか検討しており、近いうちにお届けできればと考えています。

AI による自動要約機能の予定はありますか？
別のやり方を模索しています。ただし、しっかり磨き上げて良いものにできる場合に限ります。

お気に入りの AI モジュールは？
Kurumuz：Mercantile Wolfgirl Romance — Aini：私は自分の文章でカスタムモジュールを学習させて、自分の世界観や雰囲気を引き出すのが好きです。とはいえスマホ入力の誤字もそのまま入っているので、共有はしません。

カスタム AI モジュールの学習速度は改善されますか？
はい、Kurumuz が時間を作れれば可能です。

他の言語の AI モデルも追加しますか？
実際に、研究として英語モデルを日本語向けに調整したのが Genji モデルです。ですので、今後他の言語でも行う可能性はあります。

AI の記憶力を改善する予定はありますか？
今後のテキストアドベンチャー向けに実験的な技術をいくつか作りました。これをすべての AI モデルにも展開したいと考えています。

NovelAI の Twitch 配信はまた行いますか？
はい。ただ、頻度はまだ決めていません。楽しい配信を定期的にやりたいと思っているので、見たい内容や扱ってほしいテーマ、配信の曜日や時間についてのご意見があれば、ぜひ教えてください。

インディーゲーム開発者との提携に関心はありますか？
もちろんです。contact@novelai.net までご連絡いただくか、Kurumuz へ直接 eren@novelai.net までどうぞ。

GooseAI で独自モデルをホストする予定はありますか？
GooseAI に関するご質問は sales@goose.ai までお願いします。

NovelAI のギフトサブスクリプションはまだ予定されていますか？
社内で引き続き検討し、提供できるかどうかを見極めていきます。

AI への指示の仕方についてのチュートリアルは予定していますか？良い結果を得るために Memory や Author’s Note、ロアブックでどんな文構造や句読点を使えばよいかなど。また、公式サイトに知識ベースを用意する予定は？
はい、より踏み込んだチュートリアルと、できれば NovelAI 内の知識ベースも用意したいと考えています。既存の NovelAI Community UKB に近いものですが、より一般的で親しみやすい形を目指します。

インライン生成で、挿入位置より後ろの文脈も含めて考慮させることはできますか？
可能かもしれませんが、さらに検討が必要です。

現在のインライン生成はモバイルでも使えるようになりますか？
モバイルでも提供できるか検討します。

デフォルトシナリオの作者はどのように選ばれたのですか？今から掲載作者になることはできますか？
Author’s Note、Memory、ロアブックといった AI 執筆の機能を使いこなしていた、AI Dungeon の Explore コミュニティで評価の高い方々にお願いしました。現時点ではデフォルトシナリオや作者の拡充は検討していません。頻繁なアップデートのたびにシナリオを作り直す必要があり、視点の異なる多数のシナリオについて、それぞれの作者と定期的な更新を調整するのはかなり大変だからです。この問題は、私たち自身の公式 Explore／NovelAI コンテンツリポジトリで解決したいと考えています。Pause さんや lion さんが書いたジェネレーター系シナリオのように、人気が高く独自性のある作品はできるかぎり取り上げるようにしています。掲載すべきシナリオがあれば、ぜひ教えてください。

NovelAI の人気の高まりをどう見ていますか？
ここまで大きくなったことを、まだ受け止めきれずにいます。好きな配信者の方が NovelAI で遊んでいるのを見るのは、本当に不思議な気分でした。

プラットフォームはどれくらい成長しましたか？
周年に合わせて全体の統計を図にして公開できるかもしれません。周年配信をもし開催するなら、ぜひご覧ください。

AIDungeon の World System のようなものを追加する予定はありますか？
ロアブックとモジュールでおおむね事足りていると考えていますが、いずれロアブックの UI は作り直して拡張したいと思っています。

AI による音楽や環境音の生成は考えていますか？
最近その話をしたところです。将来的に自動作曲のようなものを作るかもしれません。

AI モジュールはどのような仕組みですか？
通常のテキストトークンを挿入する代わりに、学習済みのデータセット（AI モジュール）を挿入します。これが物語全体にわたって、AI の出力確率に影響を与えます。

配信中に TabloidA が即興で描いた図はあまりうまく説明できていなかったので、きちんとした図を用意したいと考えています。

GooseAI のように、クリックできるトークン確率表示を追加しますか？
おそらく NovelAI にも実装することになると思います。

小さめの AI モデル（6b の Sigurd と 2.7b の Calliope）も更新は続きますか？
はい。

トークン確率ビューアーで、上位10トークンより多く見られるようになりますか？
現在のフロントエンドへの確率の送り方はあまり効率が良くないので、バックエンドを作り直す機会があれば実装できるかもしれません。

NovelAI をビデオゲームに組み込む実験をしたことはありますか？
残念ながら専門外で、そのための時間も取れていません。

学習ステップを他の人に譲ることはできますか？
できるかもしれませんが、お約束はできません。

NovelAI は現在採用を行っていますか？
contact@novelai.net までメールをお送りください。

テキストトークンの代わりにトークン埋め込みを挿入する予定はありますか？
可能性はありますが、さらに研究が必要です。

NovelAI に従量課金の選択肢を用意する考えはありますか？
NovelAI にとって持続可能な仕組みにはならないと考えています。

5ドルの NovelAI プランを用意する予定はありますか？
これは十分に検討する必要があります。

セリフごとに複数の TTS の声を切り替えることはできますか？
将来的にスクリプティングを使えば実現できるかもしれません。

配信の最後には実際に物語を進めながら、TTS のお披露目に加えて、更新したテキストアドベンチャーモジュールの一部、新しいテキストアドベンチャーシステムのごく初期版、そしてファインチューニング中の最新 20b チェックポイントの少しだけの先出しをお見せしました

まずは適当な生成と、ときどき挟まる愉快なプロンプトで、新しい TTS の声をいくつかお試ししました。

最初にお披露目した TTS の声に対するみんなの反応は、配信のこの Twitch クリップでご覧いただけます：https://clips.twitch.tv/SnappyBigOwlOptimizePrime-hds8nc6wRyj_Tnbo

チャットの反応もぜひご覧ください。

1つ目の物語 では、できたてほやほやの最新版 特別テキストアドベンチャー AI モジュール（コンテキストサイズを拡大したもので、すでに NovelAI に反映済みです） と、テキストアドベンチャー向けの新しい Ouroboros プリセットを使いました。TabloidA は、壁のない酒場でネズミのバーテンダーと近くの銀行から手当たり次第に通貨を食べ尽くし、最後は炎に包まれた大惨事で幕を閉じました。

2つ目の物語 では、裏側でより多くの情報を追跡する 今後刷新予定のテキストアドベンチャー AI の、ごく初期の試作版を持ち出しました。まだかなり早い段階のお披露目でしたが、銃を持った猫を猫娘に変え、従順なメイドになるよう仕込んだ挙げ句、大した理由もなく殺そうとしたときの AI の思考をのぞけたのは、なかなか面白い体験でした。

最後の物語 では、開発中の最新モデルである 20b Neo-X の AI モデル に切り替え、OrionON1K さんがチャットで提供してくれた長めのコンテキストのプロンプトをどう扱うか試しました。舞台は雑貨店を営む商人で、客が店に入ってくるところから始まります。多少手綱を引く必要はありましたが、その客たちは提携を迫る盗賊団だと判明。その日のうちに、私たちの商人は怪しい人物につけられ、謎めいた書物を差し出されます。先ほどの怪しい人物に尾行され、緊張感のある対峙へとつながっていく流れを AI が結びつけていく様子は見事でした。20b のコンテキストが約 1600 トークンしかないことを考えると、主人公が店を切り盛りする商人だという設定をよく覚えていたと言えます。

ここで 3時間 に達し、3人ともほぼ限界でしたが、締めくくりに いくつか質問へお答えしました 。

NovelAI はいつベータを卒業しますか？
かなり近づいている手応えはありますが、まだ細かな磨き込みが残っています。スクリプティングと Explore の計画が仕上がるころになればと思っています。

「〜ではない」といった否定を AI に理解させる方法はありますか？
否定形を使わずに、繰り返し刷り込むのがコツです。キャラクターを「not tall」と書く代わりに、「short」「small height」、あるいは「tiny built」といった別の言い回しを探してみてください。そうした語をコンテキスト（本文でもロアブックでも構いません）の中で類義語を交えて何度か繰り返せば、AI はほぼ問題なく汲み取ってくれるはずです。AI は物事を説明するのに使われた語そのものから推測するためです。「not tall」とだけ書くと、AI は（トークン化された）「tall」という語を見て、学習データでその近くによく現れる語の確率を上げるだけになってしまいます。

AI のコンテキストは 2048 を超えて拡張されますか？
ご要望があれば、小さめの AI モデルについてはより大きなコンテキストを実装できるかもしれません。

今後の配信に他の開発者も登場しますか？
他の開発者たちが照れを乗り越えて出てくれるかどうか、様子を見てみます。VRChat のような場でならあり得るかもしれません。

NovelAI に公式 YouTube チャンネルはありますか？
まだありませんが、近いうちに用意できればと思っています。

以上が、2022年の主な計画です。

ご視聴いただき改めてありがとうございました。このロードマップが、当面の優先事項についての皆さんの不安を少しでも和らげられれば幸いです。

次はどんな配信が見たいか、ぜひ教えてください。もっと楽しい生配信を用意していきます。今後の配信のお知らせは Twitch のフォローで受け取れます：https://www.twitch.tv/novelai/

いつものように、ご感想やご意見、ご提案は、公式チャンネルのどこからでもお寄せください。