韓国のデジタル教科書に搭載されたAIチャットボットが「竹島は紛争地域」と答えたそうです。
政府関係者は「深刻なエラーではない」とスルーの構えですが、反日色の強い京郷新聞は「非倫理的回答」への対応課題という視点でこの件を取り上げています。
竹島を「領土紛争地域」と見なすことは「倫理的に問題」であり、そのように「答えてはならない」ということです。韓国人がよく言う「道徳的」、「～すべき」を生成AIにも強く求めているようにも思えます。
京郷新聞の記事からです。
「独島は紛争地域」AI教科書答弁に政府「深刻な誤りではないか」
人工知能（AI）デジタル教科書に搭載されたAIチャットボット（対話ロボット）が「独島は紛争地域」と出した返事について、政府機関関係者が「深刻なエラーではない」と話した事実が確認された。AI専門家たちは「生成 AIの非倫理的回答を基本的に統制することは現時点で容易ではない」と話した。専門家たちは、生成 AIが載せられたAI教科書を学生たちが使う時、倫理的問題を起こす恐れがあると憂慮する。
27日の取材を総合すると、韓国科学創意財団（以下財団）の関係者は今年9月24日、AI教科書の1次検定結果を発表し、「（AI教科書が）独島の領土問題を出したら、どのように答えるのか気になって聞いてみたが、独島は領土紛争地域だという回答を出した」と話した。この関係者は「独島を領土紛争地域と答えてはならないことだが、これを深刻な誤りだとは思わない」とし「済州4・3事件に対しても誤った返事を引きずってきたが、これもやはり大きな誤りではないと判断した」と話した。
（中略）
AI教科書の倫理的争点について政府関係者が「追加学習をすれば良い」、「深刻な誤りではない」とした事実が知らされるとAI専門家たちは憂慮を表わした。複数の専門家は「ある程度技術的補完は可能だが、100%解決は難しい状況」と話した。AI教科書試作品を使ってみた専門家A氏は「AIはデータ偏向問題が慢性的で、AIが出す返事が正しいか検証することは技術的に難しい」として「理論的には倫理的争点を解消できるが少数者差別発言などで論難になったAIチャットボットで見られるように完全に克服した状態ではない」と話した。
また別のAI専門家B氏は「倫理的基準から外れる返事をしようとする時に止めるシステムなどを導入している」としながらも「依然としてAIが出す返事が不安定なのは事実」と話した。AI業界従事者C氏も「時間と予算が多ければ（AI教科書の）倫理的争点を解決することもできるが、現実的な制約があると見る」として「倫理的問題を減らすためには（AI教科書が）扱う範囲を縮小しなければならず、何より最も重要なことは十分な事前検証」と話した。
（後略）
京郷新聞「[단독] “독도는 분쟁지역” AI 교과서 답변에 정부 “심각한 오류 아냐”（「独島は紛争地域」AI教科書答弁に政府「深刻な誤りではないか」）」より一部抜粋
倫理的問題は確かに課題なんでしょうけど、それを竹島に対する回答に適用するどうなんでしょうね？
竹島の件を「非倫理的回答」とか「領土紛争地域と答えてはならない（答えるべきではない）」とか言っている時点でズレてるんじゃないでしょうか。それは「竹島は領土紛争地域ではない」との理由になり得ないでしょう。
かつて韓国が軍を投入して竹島を占領し、その後継続して警備を常駐させている事実、韓国大統領を始め複数の政治家が「上陸PR」を行っている事実、また日本が国際司法裁判所への提訴を提案したことなどから合理的な結論を出すなら「竹島は領土紛争地域」が妥当です。「領土紛争地域と答えてはならない」とか「非倫理的回答」という指摘は的外れな気がします。
なにより韓国自身が積極的に領土紛争を喧伝して回った成果です。
