Anthropic CEOのダリオ・アモデイ氏が「Machines of Loving Grace（愛しき恩寵の機械たち）」という格調高いタイトルのエッセイを公開した。
Machines of Loving Grace 要約
Machines of Loving Grace: my essay on how AI could transform the world for the betterhttps://t.co/CFGd4Sbq86
— Dario Amodei (@DarioAmodei) 2024年10月11日
副題は「How AI Could Transform the World for the Better（AIはいかにして世界をより良く変えるのか）」となっている。全文をIT naviさんが日本語訳して公開されたので、ありがたく私はこちらを読ませていただいた。
アモディ氏もAGI（強力なAIという呼び方をしている）が早ければ2026年に実現するとしている。早期にAGIが実現する可能性があるとしている点では、サム・アルトマン氏、孫正義氏と同じだ。その上でAGIの出現から５年〜１０年の間に世界がどのように変わるかをポジティブに捉える立場で述べている。
初めは適当に読み飛ばししながら読んでいたのだが、いかんせん文章量が多い。結局、AIに要約してもらうことにした。こんな風に楽をしようとしているとボケていくんだろうな〜と思いながら、最近導入したEllamaにある「ellama-summarize-webpage」という便利機能を使い、Webページをまるごと要約してもらった。使ったAIはLlama3.1の8Bである。
（Llama3.1:latest）
著者は、将来の世界を描いたエッセイでAIが人間に何を提供するかについて考えています。彼は次のことが起こる可能性があると考えている。
+ 病気やけがで亡くなる人がほとんどいなくなる
+ 人間の生存と幸福のためにAIを活用して、医療、エネルギー、食料などへのアクセスが広範に普及する
+ AIが人間の労働をサポートし、人間の時間をより有意義な活動に回す
+ 自律性と知的探究の重要性が認識される
しかし、著者は次のことが起こる可能性もあると考えている。
+ 人間社会が大きな変化を経験することになる
+ これまでの民主主義や人権の基本的な原則が再考されなければならない
+ 人間がAIによって提供される価値に対して新しい意味合いを探す必要がある
著者は、人間の意欲と活力がAIによって強化される可能性があると考えている。しかし同時に、彼は、人間社会全体の変化が必ず起こることを認めている。そして、その変化は人類の幸福と進歩への取り組みを高めるものとなるだろう。
あの長いエッセイを500文字以内（435字）に大胆にまとめてくれた。これくらいの文章量にまとめてくれるのはありがたい。自分が学生でレポートを提出するとしてもここまで大胆には書けないと思う。内容的には大筋正しいと思うが、いくつか「あれ？」と思う表現がある。
+ 病気やけがで亡くなる人がほとんどいなくなる
「ほとんどの病気が克服される」とは言っているけど、怪我で亡くなる人のことはアモデイ氏は言っていない。
+ これまでの民主主義や人権の基本的な原則が再考されなければならない
この表現がどこにあるのか探したところ、エッセイのまとめの部分に「リベラルな民主主義と人権のルネサンスが到来するなら」という部分があった。「ルネサンス」を「再生」という意味で捉えれば、そう読めなくもないが、大胆な捉え方だ。
Ellamaには「ellama-summarize」というEmacsのバッファに表示されている文章を要約する機能もある。EmacsでWebページの内容を表示させ、そのバッファを選んだ状態で「ellama-summarize」で要約させてみた。すると今度は英語で回答してきた。
（Llama3.1:latest）
The essay discusses the potential benefits and challenges of advanced artificial intelligence (AI) in various fields, including biology, neuroscience, poverty alleviation, and human rights.
Key points:
1. Disease eradication: AI can help accelerate scientific progress, leading to significant advances in medicine, potentially eradicating diseases such as cancer.
2. Neuroscience advancements: AI can aid in understanding the human brain, enabling breakthroughs in neuroscience, and potentially improving cognitive abilities.
3. Poverty alleviation: AI can help alleviate poverty by providing access to education,
healthcare, and economic opportunities for marginalized communities.
4. Human rights: AI can support the protection of individual rights, equality under the law, and liberal democracy.Challenges:
1. Meaning and purpose: With AI potentially automating many tasks, humans may struggle to find meaning and purpose in their lives.
2. Economic sustainability: As AI assumes more responsibilities, there is a risk that humans may not be able to contribute economically or meaningfully.
3. New economic systems: The widespread adoption of AI could necessitate the development of new economic systems to ensure fairness and equality.Opportunities:
1. Universal basic income: Implementing a universal basic income as a safety net for individuals affected by automation.
2. AI-driven economies: Exploring new economic models that leverage AI's capabilities, such as AI-driven capitalist systems or resource-based economies.
3. Global cooperation: Encouraging international cooperation to address the challenges and opportunities presented by advanced AI.Conclusion:
The essay argues that a world where AI has significantly advanced human civilization is both plausible and desirable. It emphasizes the importance of addressing the challenges associated with AI development, such as ensuring economic sustainability and protecting individual rights, while also seizing opportunities for global cooperation and progress.
「ellama-translate」で翻訳させる。
このエッセイでは、生物学、神経科学、貧困解消、人権など、さまざまな分野での先進的な人工知能（AI）のメリットと課題について議論する。
主要ポイント:
1. 疾病の根絶: AIは医学の進歩を加速し、がんなどの疾患の根絶に貢献する。
2. 神経科学の進展: AIは人間の脳の理解を助け、神経科学のブレークスルーと認知能力の向上を可能にする。
3. 貧困解消: AIは教育、医療、経済的機会にアクセスするマイノリティーのコミュニティーを支援し、貧困を緩和する。
4. 人権: AIは個人の権利の保護、法の下での平等、自由民主主義を支える。課題:
1. 意味と目的: AIが多くのタスクを自動化するため、人々が生活に意味や目的を見失うかもしれない。
2. 経済的持続可能性: AIがより多くの責任を負う中で、人間が経済的に貢献し、意味のあることを行えないリスクがある。
3. 新しい経済システム: AIの広範な採用は、公平性と平等を保つ新たな経済システムの開発を必要とする。機会:
1. ユニバーサル・ベーシックインカム: 自動化の影響を受ける個人のための安全網としてユニバーサル・ベーシックインカムを導入する。
2. AI駆動型経済: AIの能力を活用した新しい経済モデル、例えばAI駆動型資本主義や資源に基づく経済を探る。
3. グローバル協力: 先進AIの課題と機会に対処するため、国際協力を促す。結論:
このエッセイは、AIが人間文明を著しく前進させる世界は両立可能かつ望ましいと主張し、AI開発の課題、例えば経済的持続可能性と個人の権利保護を強調しながら、グローバル協力と進展の機会を捉える必要がある。
800字以内（747字）でまとめてくれた。これ以外にも何回か試してみたが、これが一番まともな要約だった。
AIによる文章要約は確かに便利な機能だが、８BクラスのAIは「クセの強さ」があることを認識して使ったほうがよさそうだ。
Ellamaの使い方
Ellamaの使い方も少し分かったことがあるのでまとめておきたい。
.emacsなどの設定ファイルに以下のようにellama-keymap-prefixを設定することでEllamaの機能が簡単なキー操作で呼び出せる。
;; setup key bindings (setopt ellama-keymap-prefix "C-c e")
「Ctrl-c e」に続けて以下のキーを押すことで機能を呼び出せる。例えば今回使った要約機能であれば以下の３つがある。
| Keymap | Function | Description |
| ”s s” | ellama-summarize | Summarize |
| ”s w” | ellama-summarize-webpage | Summarize webpage |
| ”s c” | ellama-summarize-killring | Summarize killring |
「ellama-summarize-webpage」を呼び出す場合は、「Ctrl-c e s w」と続けて入力するだけだ。よく使う機能はこのキーマップを覚えておくと便利である。
EllamaはAIの回答を拡張子orgで出力する場合がある（翻訳結果やチャットの結果など）。拡張子orgで出力されると自動的にorg-modeになり、マークアップされた文章が表示される（*で囲まれた部分が太字で表示されるなど）。Emacsのorg-modeは便利な機能なのだが、奥が深い（というか深すぎる）ので私はこれまで使うことを避けてきた。しかしorg-modeを覚えたほうが良いことがあるかもしれない、と思い現在勉強中である。良い使い方が分かったら紹介したい。
