問問1
l技術を利用したシステムの企画・開発に関する監査について 近年,大量のデータの中から一定の規則・特徴を見つけ出し,予測・判断する機 械学習,深層学習などのAl技術が進展し,AI技術を利用したシステム(以下,Al システムという)の導入事例が増えてきている。既に,画像認識による顔認証,テ キスト・音声を通じて会話するチャットボット,人材マッチングによる採用支援, 顧客の信用カスコアリングによる与信審査などのAIシステムが実用化されている。 AIシステムの開発は,ユーザ企業など(以下,ユーザという)がAl技術のノウハ ウをもったベンダに収集データを提供して委託することが多い。ベンダは,収集デ ータを学習用データセットに加工して,オープンソースソフトウェア,ベンダが保 有する開発プログラムなどを組み合わせた学習用プログラムに入力し,成果物とし て学習済みモデルを生成する。 一方,AIシステムには,アルゴリズムのブラックボックス化の問題をはじめ,収 集データの不足・偏りなどによって,学習済みモデルによる予測・判断結果の解釈 が難しかったり,精度が低かったりする場合がある。したがって,機能要件を確定 してから構築する従来の開発手法では対応が難しくなる。また,収集データの加工 に多くのコストが掛かったり,ベンダが有するノウハウなどの権利帰属の問題によ って,ユーザが学習済みモデルを利用する際に制約が生じたりすることも想定され る。 今後,AIシステムの実用化が広がる中,システム監査人には,AIシステムの利用 段階でのリスクを踏まえて,AIシステムの導入目的,開発手法,ユーザ・ベンダ間 の取決めなどが適切かどうかを企画・開発段階で確かめておくことが求められる。 あなたの経験と考えに基づいて,設問アーウに従って論述せよ。 設問アあなたが関係する組織において,AL技術を利用する目的と,開発を検討して いる又は開発したAIシステムの概要について,800字以内で述べよ。 設問イ設問アで述べたAIシステムの利用段階において想定されるリスクについて, 700字以上1,400字以内で具体的に述べよ。 設問ウ設問イを踏まえて,AIシステムの導入目的,開発手法,ユーザ・ベンダ間の 取決めなどが適切かどうかを確かめるために,企画・開発段階において実施す べき監査手続について,700字以上1,400字以内で具体的に述べよ。 ー3一