ID:67509さん

# 概要 - プロパンガスの配送計画自動立案サービスの新規開発 (機械学習システムの開発メンバー) - https://www.softbank.jp/biz/services/analytics/routify/ # 担当 - 各配送先のガスの需要予測するモジュールの開発を主に担当 # 課題と取り組み - (ガス切れ日数の推定誤差問題) ガスの使用量の予測値を配送計画モジュールの入力とするのだが、配送計画モジュールが優先すべき配送先を正当に評価するために、ガス切れに関する値をなるべく正確に推定する必要がある。しかし、単にガス残量から使用量の予測値を除算して求めると予測値の誤差が反映されない問題があった。 - ガスの使用量の誤差の分布として正規分布をおくことで、使用量の予測値を確率分布として表せる。この分布をタンク内のガス残量の分布に変換することで、各日における残ガスがマイナスになる確率を求めた。これにより予測誤差が考慮された配送計画が実現されるようになった。 - (データの改ざん問題) 使用量の累積データがオリジナルのデータだが、配送員の記録ミスや閉栓タイミングの0リセット、ガスメータ交換により大きく累積データが変化することがある。その改ざんについてまとまった情報源が存在せず、複数の過去データ(閉栓データ、配送データ、累積データ等)から、改ざんを修正する必要がある。しかし、単なるデータの結合でこれらの改ざんを修正できない問題があった。 - 改ざんを修正できないパターン(30パターンほど)を洗い出し、そのパターンに対応した修正を行うアルゴリズムを作成した。アルゴリズムは単なるif文で条件分岐するだけだが、条件が複雑だったためpytestといったテストライブラリを用いて単体テストとセットで開発することでバグの発生、デグレード防止を心がけた。 - (計算時間の制約問題) データの集計が終わり配送が始まる朝方まで数時間しか予測に利用出来る時間がない。データ整合性が満たされるのに1日以上かかるため、毎日データ更新が入る。そのため、毎日特徴量を作り直さないといけない。配送先ごとにデータが存在するため、膨大な量のデータを処理する必要があり、さらに将来的なサービス展開も考えてスケール性も求められた。 - プロファイリングで計算時間がかかる関数の特定し改善を行った。例えば、一度計算した内容のメモ化の処理いれたり、pandasで書かれた処理をいくつか効率化のテクニック(一度numpyに変換してから処理など)を利用。その結果、計算時間の制約を満たすように改善された。また、配送先の増加によるスケール性も2倍ほど改善した。 - (要件変更の問題) これまでに前例がないサービスということもあり、要件定義に抜け漏れが多くあった。そのため、開発工程で頻繁に要件変更が発生した。要件変更に柔軟に対応できるシステム設計が求められた。 - 特徴量作成関数の変更、予測モデルのアルゴリズムの変更、学習予測データの分割方法の変更、予測ロジックの変更(どの配送先にどのモデルを利用するかなど)といった変更が求められやすい箇所はインターフェースで設計することで変更容易性を高めた。実際に実地試験や配送員の要望などで要件変更が発生した際に素早く対応することができ、PJの進捗の負荷を下げた。 - (特徴量設計の問題) より良い予測をするために月や週、曜日の傾向変化をとらえた特徴量を設計することが求められた。基本的に長い特徴量にすることで精度向上が見込まれるが、あまりにも長いスパンで特徴量をとるとイベントの傾向やデータ欠損の悪影響を無視できなくなり、さらに計算時間の制約を満たしづらくなる。そのため、上記の悪影響が発生せず精度低下も発生しない範囲で特徴量の設計する必要があった。 - モデルとして定評のあるLightGBMを利用。月、週、曜日の傾向を表す特徴量とこれらの平均的な傾向を表す特徴量、直近数日の傾向を表す特徴量を設計した。その結果、実績によく一致した精度を実現した。(単なる線形回帰よりは非常に高い精度。具体的な数値は失念した)