どうなるチャットGPT - 株式投資に夢を見て

先日、話題のチャットGPT関連銘柄に注目していると言っていましたが、

AI開発の一時停止を求めうる公開書簡に多くのAI専門家と企業のリーダーが署名したというニュースがありました。

高度な人工知能が制御不能になると警告しAI開発の一時停止を呼びかけたもので、新技術の危険性が適切に評価されるまで、GPT-4よりも強力な技術の開発を6カ月間休止するよう求めている。

まさにターミネーター的な世界が訪れるということなのか？？とど素人は思ってしまいます。

挙げられている懸念は以下のようです。

　制御不能なAI

開発者が強力な新しいAIシステムを制御できなくなり、それが文明に影響を及ぼす可能性を示唆している。それによると、企業は開発者でさえ「理解、予測、確実な制御」ができないほど高度なAI技術を開発しようと競っているという。我々は文明のコントロールを失うリスクを冒すべきだろうか。そのような決定を、選挙で選ばれたわけでもない技術指導者に委ねてはならない。

危険なレース

AI企業が新しい高度なシステムを開発および展開するための「制御不能な競争」に巻き込まれていると警告している。ここ数カ月、OpenAIのChatGPTの圧倒的な人気によって、他の企業が独自のAI製品をリリースしようとしているという。社会がこのまま「準備不足の秋」に突入するのではなく、新しいテクノロジーに適応するチャンスがある間に「AIの夏」の恩恵を享受するように企業に促している。

自動化と誤情報

人間以外の精神が最終的に「我々を数で上回り、出し抜き、時代遅れにして、取って代わる」可能性を含む、新しい技術のいくつかのリスクを強調している。また、AIシステムが一部の作業で「人間並み」になりつつあるとし、誤った情報や労働の自動化をめぐる懸念を挙げ、次のように述べている。我々は、機械にプロパガンダや真実でない情報を流させるべきだろうか。充実した仕事も含め、すべての仕事を自動化すべきなのだろうか。

6カ月の休止期間

すでに市場に出回っているものよりも強力なAIシステムの開発を6カ月間中断するように求めている。また、開発者に対して、政策立案者と協力してAIガバナンスシステムを構築するように求めており、規制当局の必要性や、人が作ったコンテンツとAIが作ったコンテンツを区別するためのAI「電子透かしシステム」の必要性を強調している。さらに、AIによる経済的・政治的混乱に対処するための「十分なリソースのある機関」の必要性を示唆している。一時停止はAI開発の完全停止ではなく、先端技術をめぐる「危険な競争」から一歩後退することだと述べている。