ICML 2026（ソウル）参加報告 ― ロボットメモリと長文脈モデリングが熱い

7月6日〜11日にソウルで開催されたICML 2026に参加してきました。今年特に発表が多かったテーマは、ロボットの記憶機構、マルチモーダル学習、深層表現学習、LLMにおける推論と検証、競技プログラミング系ベンチマーク、効率的な長文脈モデリング、AIの社会・政治的リスクあたりでした。

個人的には「効率的な長文脈モデリング」のセッションが一番混んでいた印象です。

ちなみにICLR 2026ではAppleがApple Silicon上でのローカルLLM推論（MLX）やRNN学習を大幅に効率化する新手法を発表していて、大規模RNN学習が初めて現実的になってきたという話も面白かったです。

RNNの学習効率化の話、気になっていました。Transformer全盛の中であえてRNN系に手を入れてくるのは面白いですね。長文脈をO(n)近くで扱えるなら推論コストの面でTransformerに対する優位性が出てきそうです。論文リンクあったら共有してほしいです。