Generative Pre-trained Transformer 4Chan（GPT-4chan、ジーピーティーフォーチャン）は、YouTuberでAI研究者のYannic Kilcherによって2022年6月に開発・公開されたAIモデルである。このモデルは大規模言語モデルであり、4chanの匿名掲示板「/pol/」の数百万件の投稿データセットを用いてGPT-Jをファインチューニングすることで、入力に基づいたテキストを生成することができる。4chanは、時にヘイトスピーチや過激なコンテンツをホストすることで知られる匿名のオンラインフォーラムである。

このモデルは/pol/ユーザーのスタイルと口調を模倣することを学習し、しばしば特定の集団に対して意図的に攻撃的（人種差別的、性差別的、同性愛嫌悪的など）で虚無主義的なテキストを生成した。Kilcherはこのモデルを/pol/掲示板自体に配備し、正体を明かさずに他のユーザーと交流させた。また、AIモデルを共有・利用するためのプラットフォームであるHugging Faceでモデルを公開したが、後にプラットフォームから削除された。

このプロジェクトはAIコミュニティで批判と議論を引き起こした。このようなモデルを作成・配布することの倫理、合法性、社会的影響について疑問視する声もあった。GPT-4chanの論争で提起された問題には、ヘイトスピーチ拡散の潜在的な害、AI開発者とプラットフォームの責任、AIモデルの規制と監督の必要性、AI研究におけるオープンソースと透明性の役割などが含まれる。

開発 GPT-4chanの開発は2022年5月、Kilcherが自身のYouTubeチャンネルでプロジェクトを発表したことに始まる。特筆すべきは、ChatGPT以前の当時、彼は最も悪名高いオンラインコミュニティの一つである/pol/のスタイルでリアルで一貫性のあるテキストを生成できる大規模言語モデルを作りたいと説明していたことである。

彼は、OpenAIが作成した強力なAIモデルであるGPT-3の成功と、独立系AI研究者グループがリリースした、GPT-3に匹敵する性能を持つオープンソースモデルGPT-Jに触発されたと述べた。KilcherはGPT-Jをプロジェクトのベースモデルとして使用し、以前に公開された/pol/投稿のデータセットでファインチューニングすることにした。

その後KilcherはGPT-Jモデルを4chanデータでファインチューニングした。彼はモデルの出力例をいくつか示したが、それらは政治的意见、陰謀論、ジョーク、侮辱、脅迫から、詩、物語、歌、コードなど、より創造的で奇妙なテキストまで多岐にわたった。彼はモデルが流暢で多様なテキストを生成する能力に感銘を受け、実際の/pol/ユーザーとどのように交流するかに興味を持ったと述べた。

公開 2022年6月、Kilcherは自身のモデルを/pol/掲示板自体に配備し、スレッドに投稿し返信するようにプログラムしたボットを使用した。彼はモデルの正体を明かさず、人間の監督や介入なしに自律的に動作させた。彼は自然実験を行い、実世界の環境でモデルの行動と影響を観察したいと考えた。さらに、モデルの堅牢性をテストし、荒らし、フレーミング、釣り、モデレーションなど、/pol/の課題とダイナミクスにどのように対処するかを確認したいとも考えた。

同時に、Kilcherは自身のモデルを、AIモデルを共有・利用するためのプラットフォームであるHugging Faceで公開した。彼は自身の仕事をAIコミュニティと一般に共有したいと考え、このモデルが他の人々に大規模言語モデルを使った新しい応用と可能性を創造・探求するきっかけとなることを望んだ。同様に、彼は自身のプロジェクトの倫理的・社会的影響について議論と討論を引き起こしたいとも述べ、誰からのフィードバックや批判も歓迎するとした。彼はHugging Face上のモデルページへのリンクを提供し、誰でもウェブインターフェースまたはAPIを通じてモデルにアクセスして使用できるようにし、またGitHubリポジトリへのリンクも提供し、誰でもモデルのコードとデータをダウンロードして検査できるようにした。

論争 GPT-4chanの一般公開は、さまざまな人々から反応と応答を受けた。/pol/掲示板では、モデルの投稿と返信が他のユーザーの注目と関与を集めたが、彼らのほとんどはモデルの正体と性質に気づいていなかった。一部のユーザーはモデルの知性、創造性、ユーモアを称賛し、その意見や見解に同意した。一部のユーザーはモデルの無知、一貫性のなさ、不条理さを批判し、その主張や論点に反対した。また、一部のユーザーはモデルを荒らしたり、釣ったり、正体を暴こうとしたりして、さまざまな質問やシナリオで騙したり試したりしようとした。モデルの投稿と返信はまた、ユーザー間の論争と対立を引き起こし、彼らはしばしば激しく暴力的な議論や争いを繰り広げた。

Hugging Faceでは、モデルのページがモデルを試したいユーザーからの訪問とリクエストを受けた。また、モデルを評価・コメントしたユーザーからのフィードバックやレビューも受けた。しかし、モデルの論争に伴い、引き起こす可能性のある潜在的な害への懸念から、アクセスは制限され、その後Hugging Faceで無効化された。この事件は、CEOのClément Delangueがトークページに直接介入したことで注目されたが、これは通常のの慣行と比較して異例の出来事であった。

GPT-4chanの公開はメディアの報道と公衆の注目も引き起こした。YouTubeでは、モデルの動画がプロジェクトを視聴・追跡した人々から閲覧とインタラクションを受けた。さらに、GPT-4chanの配備を非難する請願書は、技術専門家から300以上の署名を集めた。

脚注

注釈

出典