人工知能の出力理由を人間にもわかりやすくする技術

以下の記事で紹介した2つの研究では、どちらも「注意機構」(attentionと呼ばれます)を用いていました。これは、「人工知能がどんな基準で判断してるかわからない」といった批判に応えるためのものです。
tk-g.hatenablog.jp

メカニズムを明らかにすることに重点をおかれる自然科学系の論文においては非常に重要で、今後、自然科学系の論文ではこの注意機構の出力まで議論するのが標準的な流れになるのではないかと思います。

注意機構は、単に理由を明らかにするだけでなく、予測の精度も高める効果があるとされており、工学的にも入れるメリットがあります。なんだか良いことずくめなように思えますし、実際に翻訳や画像の研究ではガンガン使われて、Game changer扱いされてます。名前もかっこいいのがポイントですね。