シンギュラリティ実験ノート

購入した1000ドルPCで何がどこまでできるのか実験した記録です。

2024-10-01から1ヶ月間の記事一覧

JanのモデルにGroqのLlama3.1-70bを追加する方法

ブログのサイドバーに「注目記事」を表示するようにした。直近のアクセスでアクセス数の多い記事が表示される。これを見るとブログ開設当時に書いた2つの記事が常に1位、2位となっている。Googleで「ROCm」と検索すると1位の「AMD ROCmを使うことで何が…

Ubuntu22.04でBitNet.cppを試す

MicrosoftからBitNetのLlama 8B版が公開された。CPUのみで爆速で動くことが特徴。GPUが不要なので省エネになるし、モバイル端末でも使えるようになることが期待できるらしい。我が1000ドルPCでも動くのか試してみた。 導入方法 導入先環境はUbuntu 22.04…

「ストロベリー問題」を解けるLLMは「しりとり遊び」ができるか

Nvidiaが「Llama-3.1-Nemotron-70B-Instruct」(以下Nemotron-70B)を公開した。一部のベンチマークではOpenAIのGPT-4oやAnthropicのClaude 3.5 Sonnetを上回るらしいので、早速試してみることにした。 「ストロベリー問題」と言って、これまでGPT-4oやClaud…

ローカル環境で動くAIエージェントを試してみた

「AIエージェント」を作ってみたいと思っていた。私が欲しいAIエージェントは、アプリ導入時に発生したトラブルの解決策を見つけてくれるAIエージェントである。この場合の作業タスクは以下のようになる。 エラーメッセージからキーワードを見つける キーワ…

Windows11を再インストールしたら作業環境がより快適になった

増設SSDに作業環境をほぼ移行できたので、もともとのSSDにあったWindows11を再インストールすることにした(以下「インストール」を「導入」という)。最近は短い時間に何度もブルー画面が出るくらいWindows環境が不安定になっていた。 個人的に作成したメモ…

進化的アルゴリズムとは何かをAIに教えてもらった

AIに関する記事を読んでいると「進化的アルゴリズム」という言葉をよく見かける。また似たような言葉で「進化的プログラミング(または遺伝的プログラミング)」というのも見かける。それぞれどのような概念で、どのような違いがあるのか。私は全く分かって…

Anthropic CEOのエッセイの要約をAIに頼んでみた

Anthropic CEOのダリオ・アモデイ氏が「Machines of Loving Grace(愛しき恩寵の機械たち)」という格調高いタイトルのエッセイを公開した。 Machines of Loving Grace 要約 Machines of Loving Grace: my essay on how AI could transform the world for th…

Corsairのミニキーボード「K65 RGB MINI」を購入

新しいキーボードを購入した。Corsairの「K65 RGB MINI」という機種である。 Amazonのタイムセールで価格18,754円のところ11,812円で購入した。 CORSAIR USB-A K65 RGB MINI CherryMX SPEED 日本レイアウト ゲーミングキーボード CH-9194014-JP Corsair Amaz…

ROCmドライバを入れるとChromeが起動できなくなる問題の対応方法

UbuntuにROCmを導入するとGoogle Chromeが起動できなくなった。この問題の対応方法をメモしておきたい。 Chromeが動かなくてもFirefoxとか他のブラウザ使えばいいだろうと思われるかもしれないが、私はChromeのブックマークでWindowsやMacとブックマークを…

UbuntuにLLM環境を再構築したら予想以上に快適だった

これまでUSB接続の2.5インチHDDにUbuntuを入れていたため、Ubuntuを立ち上げるだけで数分かかっていた。せっかくSSDを増設できる内臓スロットがあるのでSSDを増設し、ここにUbuntuでのLLM環境を構築することにした。 SSDの購入 Amazonで1TBのSSDを購入した。…

孫正義氏いわく「超知性が10年以内に実現する」

孫正義氏がSoftbank World 2024の講演で「超知性」について語った。10月7日から配信される動画を見ないと詳細は分からないが、レポートがネットに掲載されているのでおおよその内容は現時点でも知ることができる。 孫さんは冒頭で以下のように述べている(ら…

Emacs+Ollama=Ellama は最強のローカルLLM実行環境かも

Ubuntu 22.04でEmacs29をビルドし、EllamaというElispパッケージの導入に成功した。導入方法と使用してみた感想などをメモしておきたい。まだ使い込んでいないのと、非常にマニアックな環境なため強くオススメはできないが、ローカルLLM実行環境としては最強…