超知能がぬるっと誕生する可能性に実感が湧かない｜bioshok

テクノロジーカテゴリーの変更を依頼記事元:

366 usersがブックマークコメント

101

超知能がぬるっと誕生する可能性に実感が湧かない｜bioshok

正直なところo1までは超知能の実現をまだあまり実感していなかった。しかし、oシリーズの進歩の速さとそ... 正直なところo1までは超知能の実現をまだあまり実感していなかった。しかし、oシリーズの進歩の速さとその性能飛躍の大きさに現実感が逆に今なくなっている。これは現実に起こっていることなのだろうか、と。下手をしたら来年か再来年には人間のトップAI研究者に比肩するAIシステムが開発される可能性もあるのではないか・・・？と。もうすぐ人間のできる殆どの認知タスクを凌駕するAIシステムが誕生するというのは文化的には何十年も前から語られていたことだし、今年の2024年6月に公開されたLeopold Aschennbrener氏のエッセイを読めば2027年末までにはAGIが開発される可能性があることは理解できた。しかし、2024年の12月半ばに入って、o3が発表された時、少し目を疑った。o3がo1と比較していっきにおよそ人口換算100倍の能力をcodeforcesで会得したのだ。 Codeforces

shields-pikes この人のAIに関する発言は1年以上観察して来てるが、わりと信頼できるし、個人的にもほぼ同意見。もはや驚き屋とかAGIの衝撃に備えよとかのバズネタではなく、一度は判断保留した可能性を再度認めざるを得ない状況。

2024/12/30 リンク

fromdusktildawn 超知能が誕生したら気づくよ。賢い人と喋ってれば、こいつ賢いなって、わかるでしょ。残念ながら僕が知りたいことに関してはo1はまだまだなので、o3に期待している。

filinion 安全で倫理的なAIを作る努力が間に合うよう願うが、現状、「皆を惹き付けるweb広告を作るAI」「バレない政治デマを生成するAI」「核施設をクラックするAI」等、倫理を無視したAIの需要が企業にも国家にも高そうでな…。

otihateten3510 知能っていうか、ただの統計であり演算でしか無いからそう見えるんじゃないかな。そして人間もそうだってことに気づき始める。AIというのは実現するとAIと呼ばれなくなっていくんだよね、歴史的にそう。

Arturo_Ui 超知能とはいえ結局は「使う側」、つまり人間の問題に帰着する。現状で最も警戒すべきは、米国のキリスト教右派が、テクノロジー至上主義と結び付いていること（https://www.newfounding.com/post/strategy/ 等を見よ）だろう。

ピンと来ない

tomaho ARC-AGIのテストではo1→o3でスコアが3倍にになった反面、コスト（電力消費）が1000倍に増加した。この人はひとつの側面から当て推量しているだけで、あとふたつくらいブレイクスルーがないとシンギュラリティは来ない。

megumin1 現状の生成AIは「強いAI」には原理的になりません。これを「知能」と読んで大げさなこといっている人は多いですけど、全員馬鹿だと思います。カブアンドに釣られる情弱と同じで信用をなくすだけですよ。

kagehiens もともと適切にパラメータを渡すことが出来れば人間より正確なアウトプットを出せるのが計算機というものなので、プログラミングが得意分野に加わったという以上の意味は無さげ。

lifefucker AGIの研究者って原爆作ってた科学者の感覚に近いんだろうか？自分たちが破壊的な開発をしてしまう可能性はないと思ってんだろうか？

2024/12/31 リンク

mbr 某シンギュラリティサーバ民としては、bioshokさんの未来予想はここに詳しく書かれていない前提（アッシェンブレナーの記事等）と裏付け（種々の研究者の発言）があってのことなので、否定するのは結構難しいとだけ。

kenjou いまのAIと呼ばれるものは確率で推論しているだけなのだから、人間を超えることはできないでしょ。自己進化できる仕組みがないんだから。

yam_123 o1が出たとき論理的推論を組み込んだようなことが言われていたので人類を超える超知能へ道が開かれたのかと思ったがそうではなかった。あくまでもLLMの枠の中だった。

gaikichi いかに演算能力が桁外れにアップしても思考材料となる情報自体が不十分では意味ない。今の生成AIはネット上にない物は学習できないし現状では気象衛星や地震波からのデータの限界でAIによる完全な災害予知はまだ無理

igni3 計算速度が人間超えたくらいで知能とか言われなかったやろ。特定分野で人間より優れたからといって慌てるようなもんでもない。

sugawara1991 知性と呼べるか知らんがKPIを上げる為の演算をこなす性能は上がってゆくだろう。が投入できる計算力の上限が電力とか冷却とか距離と光速度とかで限界に来たとき何らかブレイクスルー出来るのか

syamatsumi どーせ使う側の知能が追いつかないんだから、どんだけ改良されようが人類の興亡とは関係なくないか？　政治や宗教のような働きを放棄してAIに任せようとなったら確かに危ないだろうけど、そこまで愚かじゃなかろー？

kei_1010 “数十人に一人の能力が数千人に一人の能力と一気に100倍の飛躍を見せたのだ。(略) しかし、冷静に考えてoシリーズが世代毎（6ヶ月毎）に100倍の賢さになるとしたら” 計算おかしくね？それ100倍じゃなくね？

Insite コンピュータと人間ではニューラルネットワークのつくりが全く違うので、代替可能にはならないだろう。オーガノイドになったらわからない。

uzusayuu AIが人類の大部分より賢くなった分野にはもう有用な学習データがないので伸びは止まる。例外は自己学習できる分野で、そういうのはいくらでも発展する。プログラミングはその分野の一つではないかと思う。

sillanda 専門的なことはわかんないけど、人間の定義する「知性」を超えて違うものを見せてくれるのかなって楽しみにしてる

uehaj あのさ、将棋で言ったら80億人に1人より遥かに強い超知能がすでに生まれてるんだよ。競技プログラミングって特殊な知的パズルみたいなもんで、職業プログラミングを置き換えることなんか全然できないんだよ。

yunotanoro aiの知能は全て机上の空論だから、ai自身が演算結果を実証する事は出来ない。五感を司るセンサーのテクノロジーは人間が開発するしかない。根本的な間違いに自分で気付けない。aiが演算機の域を抜け出すのは困難。

estragon 計算はもとより、囲碁・将棋はとうに超えてて、そこにコーディングが加わると。パズルソルビング的問題解決能力はクロスドメイン超知能は実現するだろうけど

kotesaki 進化速度は驚異。でも今のAIやMLの弱点は学習必要なデータが多すぎな点だと思う。人間ならごく僅かな事例から経験とカンである程度の結論出すけどAIでは厳しい。僅かなデータから学習するようになった本当に脅威かな

はてなブックマーク

超知能がぬるっと誕生する可能性に実感が湧かない｜bioshok

記事へのコメント101件

関連記事