シンギュラリティ実験ノート

購入した1000ドルPCで何がどこまでできるのか実験した記録です。

2024-01-01から1年間の記事一覧

鳥の群れの動きをシミュレーションするプログラムをAIに作らせてみた

5月26日の朝日新聞「スパコン使いこなすAI」という記事を読んだ。1年ほど前、理化学研究所の研究員がChatGPT(当時はGPT4)に、「スパコンを活用して新型コロナのパンデミックを抑えたい。どんな研究が効果的だろう?」と聞いたところ、「飛沫が舞うシミュ…

DAZNの返金交渉メモ(DAZN編)

あまり愉快な話題でなく恐縮だが、DAZNとの契約で身に覚えのない請求が発生した場合の対応方法についてまとめておきたい。サブスクのサービスの変化は激しいので、ここでまとめた内容の賞味期限は短いかもしれないが、同じトラブルに巻き込まれた方の参考に…

DAZNの返金交渉メモ(Apple編)

サッカー日本代表のアジアカップの試合、NFLのスーパーボウルが地上波で放送されなかったので、DAZNを契約してゲームを観戦した。毎月利用するのが前提のサブスクリプション契約であるが、見たい時だけ契約すれば便利に使えるサービスだと思っていてこの辺り…

The Singularity Is Nearer 英語版がAmazonで予約受付中

The Singulality Is Near(邦題「シンギュラリティは近い」)の改訂版が出版されるらしい。英語版タイトルは、The Singularity Is Nearer: When We Merge with AI。つまり「シンギュラリティは近づいている:AIと融合する時」というところか。2023年の生成AI…

GPT-4oを無料で使ってみた

OpenAIがGPT-4oを発表した。無料アカウントでも機能制限付きで利用可能となっているので試してみた。Webブラウザからアクセスするだけで簡単に試すことができるので興味のある方は是非試してみて欲しい。 アクセス方法 OpenAIのこちらのページのFreeの方の「…

日本の国際収支をキャッシュフローとして眺めてみた

5月10日に日本の国際収支(2023年度速報)が発表された。このデータを日本のキャッシュフローとして見た時に、どう理解すればいいのかを考えてみた。私は国際収支を解説できるほど経済知識もなく、キャッシュフローを説明できる会計知識も持っていないが、個…

UM790 ProのWi-Fiドライバを更新

週末にシェアオフィスでWi-Fiを使用していると接続が切れてしまう現象がたまにあった。別のWi-Fiに繋ぎ直してなんとか使っていたが、とうとうどこにも繋がらなくなった。Ubuntuで使っている場合は問題ないのでおそらくWindows側の問題と思われる。ネットで調…

松本人志と週刊文春の裁判について思うこと

週刊文春(以下文春)が報じた内容について、松本人志(以下松本氏)が名誉毀損で文芸春秋と文春の編集長を訴え、5億5000万円の損害賠償を求めている裁判について少しだけ書いてみたい。 私は松本氏の特別なファンというわけでもないが、「人志松本の酒のつ…

GroqのLPUの性能を調べてみた

GroqのLPUでLlama3-70Bを動かし、その爆速ぶりを経験した。この機会にLPUの性能を1000ドルあたりに換算した性能(コストパフォーマンス)がどの程度なのかを調べてみた。1000ドルに換算したPCの性能は、シンギュラリティの到来時期を予測する上で重要なデー…

LM StudioでLlama3-8B日本語強化版を試してみた

mmngaさんのHugginfaceのページにLlama3-8Bの日本語強化学習モデル lightblue-suzume-llama-3-8B-japanese-gguf があったので試してみた。8Bは70Bに比べると能力的に劣るであろうことは分かっているが、日本語の能力とUM790 Proで動かした時の応答速度を確認…

Llama3(70B)をGroqのLPUで動かしてみた

Janの最新バージョンv0.4.12が本日リリースされた。Llama3とCommand R+をサポートするようになったらしい。ダウンロードしてみたところ、GroqでLlama3の70Bが使えるようになっていた。GroqはOpenAIのようにAPIを通してサービスを提供しており、LPU(Language…

LM StudioでLlama3(8B)を動かしてみた

1000ドルPCでLlama3を動かしてみた。LM Studioのv0.2.20からLlama3がサポートされている。この最新バージョンにしたところ、内蔵GPUの780MでLLMを動かすことができることも分かったのでその点についても簡単にまとめておきたい。 LM Studio for Windows のGP…

UM790 ProのNPUでLLM(Llama2-7B)を動かしてみた

NPUでLLM(opt-1.3b)のデモプロを動かすことができたので、今回はLlama2-7Bにチャレンジしてみた。結果的に動かすことはできたが、期待していた結果とは少し違っていた。導入手順とその中で気付いたことをここにまとめておきたい。 Copilotに頼んだらDALL E…

UM790 ProのNPUでLLM(opt-1.3b)を動かしてみた

Ryzen AI Software version1.1 がリリースされた。リリース情報を良く読んでみると、version0.8の時点で既に「opt-1.3b」というLLMのデモプロが公開されていたことが分かった。「Llama2 7b」は難易度が高そうだったので、手始めにこのLLMのデモプロから試す…

UM790 ProのNPUでRyzen AIのデモプロを動かしてみた

Ryzen AI Software version1.1 がリリースされ、Llama2 7Bが機能追加された(情報はこちら)。70億パラメタのLLMをUM790 ProのNPUで動かすことができるらしい。 最終的にはLlama2をNPUで動かすことが私の目標であるが、いきなりはハードルが高い。今回はNPU…

LLMに星新一の文体でショートショートを書いてもらった

LM Studioに導入したLLM(Command-R 350億パラメタ)に、星新一の文体でショートショートを書いてもらった。 昭和のSF小説家、恋愛をテーマにCopilotに頼んだらDALL E3が描いてくれました 依頼テーマ Command-Rには以下のように依頼した。 星新一の文体でSF…

LLMにサラリーマン川柳を作らせてみた

LM Studioに導入したCommand-R(350億パラメタのLLM)は文章を書くのが得意なようだ。星新一のショートショートのようなSF短編小説を書いてくれるとうれしいのだが、まだ書かせ方がよく分からない。今回は練習を兼ねて雑談ネタとしてCommannd-Rにサラリーマ…

LM StudioでCommand-R(35B)を動かしてみた

Command-Rという35B(350億パラメタ)のLLM(大規模言語モデル)を1000ドルPCで動かしてみた。 GPT-4やClaude-3並の性能があるのではと言われている、Command-R+(Plus)という104B(1,040億パラメタ)のLLMも公開されている。これはMac Studioの128GBメモリ…

700億パラメタのデスクトップLLMはディベート形式の議論ができるか

以前の記事で70億パラメタのLLM(大規模言語モデル)にディベート形式で議論させてみたが、全くディベートにならなかった。今回は700億パラメタのLLMでディベートをさせて見た。専門家としてリフレ派高橋洋一氏と反リフレ派藤巻健史氏を招いて議論を行う。テ…

1000ドルPCはビットコインをマイニングできるか

高速GPUボードを持っている人であれば、これでビットコインをマイニングして小遣い稼ぎをしたいと一度は考えるのではないか。私もPCの購入を検討していた昨年に、高速なNVIDIAのGPUを持つPCであればマイニングの採算が取れるのではと考えた時期があった。し…

SDXLでイメージ通りの絵を描きたい

StableDiffusion XL(以下SDXL)をUM790 Proに導入した。自分のイメージ通りの絵を描きたいと思ったからだ。なんとかSDXLの導入まではしたものの、イメージ通りの絵を描くところまでには至っていない。とりあえずこの一週間で行った作業と、SDXLで描いた絵を…

700億パラメタのLLMは小学生の算数の問題が解けるか

1000ドルPC上で70億パラメタのLLMを動かしてみると、LLMは算数の問題が意外と得意ではないことが分かる。JanがダウンロードできるLLMには700億パラメタのLLMも複数あるので、700億パラメタにすると算数の問題が解けるようになるのか試してみた。また70億パラ…

StableDiffusionでイメージ通りの絵を描きたい

StableDiffusionをUM790 Proで動かすことはできたのだが、全く活用できていなかった。イメージ通りの絵が描けないからだ。しかし偶然、あるWebサイトを見つけ、そこでなら自分のイメージに近い絵を描けることが分かった。 SDXL-Lightning- Text To Image 2-S…

日本の年金の仕組みを最近ようやく理解した

年寄りくさいテーマであるが年金について書いてみたい。私は自分が年金を受取る年になり、その仕組をようやく理解した。自分が若い頃は年金について少し興味はあったとしても、深く考えたことはなかった。それはそうだ。会社では仕事が忙しいし、家に帰れば…

Local API Server機能とやらを使ってみた

Janの中にLocal API Serverという機能があるのは知っていた。しかしどう使うのか、それを使うと何ができるのか分かっていなかった。YoutubeにあるJanの紹介動画を見ていたら、このLocal API Serverの使い方を説明していた。要するにPythonからWeb APIに従っ…

Windows+Jan+iGPUで生成AIを動かしてみた

Janでは開発やサポート用のプラットホームとしてDiscordというコミュニケーションサービスを使っている。JanをAMDのGPUで動かせないものかと先日Discordを眺めていたら以下の情報を見つけた。 Discord 現在、マルチ GPU サポートは NVIDIA GPU でのみ利用可…

AIにチャットで指示してPythonのコーディングをさせてみた

デスクトップで簡単に生成AIを動かせるソフトJanの紹介の続きである。もともとJanを導入したのは、生成AIとチャットでやり取りしながらコーディングなどの成果物が作れないかと思ったことがきっかけだった。一問一答ではなく、それまでの文脈を理解したやり…

UM790 ProをUSB PDで使ってみた

UM790 Proは週末にシェアオフィスで使い、自宅ではMac miniで作業していた。しかし自宅でもUM790 Proを使いたいと思うようになった。UM790 Pro自体は軽いので持ち運べるのだが、ACアダプタは思いので持ち帰りたくない。幸いUM790 ProはUSB-CのPD(給電)に対…

株価の成長率を求めるPythonスクリプトをAIに頼んでみた

デスクトップで簡単に生成AIを動かせるソフトJanの紹介の続きである。Janで使用できる生成AIの中にPythonのコーディングが得意そうなモデルがあったので試してみることにした。お題としては繰り返しとなって恐縮だが株価の成長率を求めるスクリプトを頼むこ…

1000ドルPCで生成AIを動かしてみた(ELYZA編)

1000ドルPC(MINISFORUM UM790 Pro)に生成AIをデスクトップで動かすソフトJanを導入した。今回はJanに用意されていない生成AIを追加導入する方法を紹介したい。 JanはGGUF形式に量子化されたモデルを使用するので、追加できる生成AIは量子化モデルが公開さ…