ID:69474さん

# 個人開発：分散型金融(DEX)における自動アービトラージトレードアプリ開発 ## プロジェクト概要 - 個人の取り組み。Solanaブロックチェーンのハッカソンが米国Austinで開催された時に出会った米国人のブロックチェーンエンジニアと2人で、ハッカソンの期間5日間かけて実装。その後個人でも数カ月間アルゴリズムの改善を実施。 - Solanaブロックチェーンの分散型取引所(DEX)複数を監視し、取引価格差が生じたらアービトラージトレードを実施するアプリケーションを開発。 ## 取り組んだ課題 - Solanaブロックチェーン上のRaydium、Serum、Aldrin、Saber、Cremaの5つの分散型取引所(DEX)におけるすべての暗号資産取引価格を取得するアルゴリズムを構築。 - Solanaブロックチェーンが確定する1秒〜2秒の間にすべての計算が完了する必要があり、計算スピードが大きな課題。 ## 取り組みの成果 - Solanaブロックチェーンが確定する1秒〜2秒の間にネットワーク処理と計算が完了せず、未だに計算スピードの改善活動を実施している状況。 - ハッカソンで知り合ったAustinの米国人からは2人で起業することを誘われるものの、米国ビザの課題があり、断念。 ## 特に工夫したこと - 計算スピード向上のため、取引所の公式SDKが提供する価格取得関数ではなく、SDKを紐解き、暗号資産取引複数について一気に価格取得するプログラムを自力実装。同期処理と非同期処理を有効活用し、実装した。 - アービトラージの機会を導出するため、グラフ理論の1つであるベルマンフォード法を勉強し、実装。暗号資産取引を複数経由して最も暗号資産が増えるルートを導出。 - ベルマンフォード法を利用すると、処理回数の分だけ暗号資産取引価格を再計算する必要があり、求める計算スピードより遅くなることが判明し、Depth First Searchにアルゴリズムを変更。無駄な計算を省略したり、暗号資産取引の組み合わせを分類分けして分割計算したりと、計算スピードを追求して改善を繰り返した。

# 個人開発： 機械学習(Deep Learning、Reinforcement Learning)を利用したFX投資の自動デイトレードアプリ開発 ## プロジェクト概要 - 個人の取り組み。FX投資を手動で実践して成功していた先輩に投資ノウハウを教えてもらい、先輩の思考回路を模倣する機械学習モデルを開発することを試みた。 - アルゴリズムが売買のチャンスと判断した時に取引を実施するルールを作り、FX投資の自動デイトレードアプリを開発。バックテストとして過去データで取引シミュレーションも実施。 - バージョン2として強化学習を利用したデイトレードアプリも開発。 ## 取り組んだ課題 - 先輩のFXデイトレードを模倣する機械学習モデルを開発するにはどういった課題設定が最適か、定義するところが大きな課題。 - Oandaのロウソク足データ10年分を学習データとし、直近のロウソク足データに基づいて最適な投資行動を予測。 - 投資行動を直接機械学習モデルに予測させるのではなく、機械学習モデルのアウトプットはFX投資デイトレード取引の判断材料となる数値。FXの値動きを波と捉え、大中小それぞれの波を定義付け、未来の値動きに対する現在値を数値化。 - 過去データを使った取引シミュレーションでバックテストを実施する時に、TrainingデータとValidationデータの分割は難易度の高い課題だった。いかにして過学習せずにモデルの実力を正しく評価するかが重要。 - 強化学習を学び、FXのデイトレードを試行錯誤するDeep Q Learningモデルを学習させた。 ## 取り組みの成果 - 1ヶ月間アプリケーションを動かし、元本50万円で5万円の利益が出た。タイミング悪くOandaのAPIが一般公開を中止し、そのタイミングで強い円安のトレンドが始まったため、現在は動作停止。 - 強化学習を使ったプログラムは最後まで実装出来たものの、結果としてPenaltyが強く出過ぎて全く取引をしないモデルが完成。 ## 特に工夫したこと - FX投資の自動化に当たって、機械学習モデルの課題設定を考えることに最も時間を割いた。機械学習モデルが予測する正解データとして、FX投資デイトレード取引の判断材料となる数値の定義付けに試行錯誤した。先輩の投資ノウハウをじっくりヒアリングし、思考回路を言語化、抽象化、そしてアルゴリズムに落とし込んだ。 - TrainingデータとValidationデータの分割では、時系列データを扱ったKaggleの機械学習大会で好成績を修めた人のやり方を模倣。 - Deep Q Learningの基礎理解と開発、そしてそれをバックテストさせるシミュレーションプログラムの開発(RewardとPenaltyの定義付けから実装まで)は非常に難易度の高い課題だったが、最後まで実装出来た。

# 東京海上日動PJT：音声マイニングによる損害サービス進捗入力支援 [日経新聞リンク](https://www.nikkei.com/article/DGXLRSP609092_R20C21A4000000/) [特許リンク](https://jglobal.jst.go.jp/detail?JGLOBAL_ID=202303010448702503) ## プロジェクト概要 - 本業である東京海上日動の取り組み。 - 東京海上日動史上初となる、社員による機械学習モデルの内製が成功したプロジェクト。 - 個人取り組みであるKaggle(機械学習世界大会)の取り組みと実績が社内で話題となり、機械学習技術を内製出来る人材をちょうど探していた損害サービス部門の部長が私をスカウト。 - 音声マイニングと自然言語処理技術を使い、顧客の電話対応について一部業務の自動化を実施するプロジェクト。自動車保険の保険金支払いを調整するプロセスの中での電話対応がターゲット。電話ごとに対話内容をシステムに登録するビジネスフローに対して、登録内容予測を行い、システム入力の支援を実施。 - AI系スタートアップ2社(株式会社レトリバ、株式会社Insight Tech)に対しても同じ課題とデータを与え、同じテストデータに対する正解率を競争。 ## 取り組んだ課題 - 社員が手動で通話内容をシステム登録していた際には、登録の選択肢が大分類、中分類、小分類の3 種類があり、合計すると3500通り近くの登録が可能だった。そのうち頻繁に利用されている選択肢は一部であり、業務プロセスの見直しが最初の課題。 - 業務プロセスを変更した後、1ヶ月間のデータ収集期間を経て学習データを分析したものの、正解データの分布には偏りがあり、また、サービス拠点によっても偏りが変わるため、最適なデータ収集に課題あり。 ## 取り組みの成果 - ビジネス部門との対話の中で発見された業務プロセスの改善が適用され、業務プロセスの改善だけで10%〜20%の業務改善が出来た。 - 同じ課題を与えたAI系スタートアップ2社を抑えて最も高い精度を社内の内製チームが出した。社内で大きく話題を呼び、東京海上グループとして機械学習技術は出来るだけ内製する方針を推し進めた。データサイエンティスト社内育成プログラムもこのプロジェクトがきっかけとなって作られた([リンク](https://tokiomarine-dshc.com/))。 - 現在東京海上日動の損害サービス対応社員8,000人の業務に使用され、理論上業務量の5〜10%程度を削減した。 - 私個人の社内での評価は上がり、東京海上日動で最年少となる入社4年目での海外駐在員(通常若手は研修駐在員)を果たす。 ## 特に工夫したこと - 現状の業務プロセスや業務の目的を整理し、それを最も達成するKPI（機械学習モデルの精度）を徹底的に議論することに時間を多く割いた。 - ビジネス部門との対話の中で、現状の業務プロセスに課題があることが判明し、まずはそこの改善から議論を進める事ができた。 - 特徴量エンジニアリングや機械学習モデル開発自体にも試行錯誤した。TF-IDFというキーワードを抽出して文章をベクトル化し、機械学習モデルに学習させる方法や、Deep Learningモデルを開発して学習させる方法など、多様なアプローチを試行。 - 開発された機械学習モデルを本番実装する際にも、音声をテキスト化したファイルをメッセージキューに格納し、機械学習モデルに計算させるプロセスを開発。 データの偏りがあることがわかってから、複数拠点からデータ収集する方法をとった。結果として現場拠点によって頻出の分類が違うことがわかり、学習データの収集から見直して精度向上させた。

# Kaggle大会：TensorFlow 2.0 Question Answering [Kaggleリンク](https://www.kaggle.com/competitions/tensorflow2-question-answering/) [GitHubリンク](https://github.com/JT-street53/tensorflow2-question-answering) ## プロジェクト概要 - 世界最大の機械学習大会Kaggleで開催された大会 - 1,233チーム中26位の予測精度を出し、銀メダル獲得 ## 取り組んだ課題 - Wikipediaに記載のテキストとそれに関する質問文が与えられ、質問文に対して回答が記載されている箇所を機械学習モデルに予測、抽出させる問題。 - 2020年1月に開催されており、BERTが発表された後、AlbertやXLNet等の類似モデルが出現した頃。パラメータ数が多い巨大なモデルを最小限の計算スペックで学習させるメモリ最適化、速度高速化が大きな課題。 - 1,2語で回答するShort Answerと、1段落まるごと回答となるLong Answerの2通り存在する複雑な問題設定も課題。 ## 取り組みの成果 - 予測精度をF値0.65851を出し、1,233チーム中26位の予測精度を出し、銀メダル獲得 ## 特に工夫したこと - 巨大自然言語モデルを高速計算させるため、GCP上でのTPUの扱い方を学び、計算速度高速化を実現。結果としてモデル学習のepoch数を上げることが出来たのが最も高精度を出す要因となった。 - 学習データの加工関数での変数設定やループ処理の書き方を工夫し、メモリ最適化を実施。その結果大きなBatchで学習させることが出来、精度向上に役立った。 - 機械学習モデルには単純な回答箇所予測をさせるだけでなく、Short AnswerかLong Answerかの2択を予測させるアウトプットも加えたことで、回答箇所予測の精度が上がった。

# Kaggle大会：Predicting Molecular Properties [Kaggleリンク](https://www.kaggle.com/competitions/champs-scalar-coupling/) ## プロジェクト概要 - 世界最大の機械学習大会Kaggleで開催された大会 - 2,737チーム中96位の予測精度を出し、銀メダル獲得 ## 取り組んだ課題 - 有機化合物の分子構造において、隣接する原子同士の原子間力を予測。 - 13万件超の有機化合物に関する教師データが与えられ、それぞれ隣接する原子同士の原子間力が計測されている。テストデータでは教師データにない有機化合物が出題される。 - 化学の基礎知識がなくとも機械学習のお題として成立する良問。アプローチの仕方は多様。原子間の距離や原子記号等、基礎データをTable状態に変換して機械学習モデルで予測することも出来た。有機化合物をGraph化して、Graph Neural Networkで予測することも出来た。 ## 取り組みの成果 - 予測精度をLog of the Mean Absolute Error-2.11658を出し、2,737チーム中96位の予測精度を出し、銀メダル獲得 ## 特に工夫したこと - LightGBMのような構造データの機械学習モデルだけでなく、Graph Neural Networkを使った予測も研究。あらゆるアプローチの仕方を地道に勉強、実行、開発をすることで複数モデルのアンサンブル学習が高い予測精度を実現した。 - 特徴量エンジニアリングの試行錯誤に最も時間をかけた。結論として、考えられる特徴量をひたすら加えていくよりも、1)距離、2)原子の種類、3)電荷、の3種類のデータのみを利用したシンプルであり、互いに重複せず、全体として漏れがない特徴量の設計が最も精度が上がることを確認。その後のKaggleの大会でもこの考え方は特徴量エンジニアリングの基本思想として活かされてきた。 - 機械学習モデルのアンサンブルの仕方について、各モデルの出力の平均ではなく中央値を取ることで精度向上が確認された。

# 東京海上日動PJT：保険金請求の不正検知モデル開発(Metromile社との共同研究) [Metromile社HPリンク](https://www.globenewswire.com/news-release/2021/09/07/2292566/0/en/Metromile-Enterprise-and-Tokio-Marine-Partner-to-Reduce-Insurance-Fraud.html) ## プロジェクト概要 - 本業である東京海上日動の取り組み。 - 自動車保険の保険金請求で、詐欺などの不正を検知する機械学習モデルを、米国スタートアップのMetromile社と共同開発。 - データエンジニアリングとプロダクト開発は東京海上日動側が担当し、特徴量エンジニアリングはMetromile社と共同研究。機械学習モデルのモデリング部分はMetromile社が担当した。 - 私は特に帰国子女で英語が話せるため、Metromile社のデータサイエンティストとの連携や、データサイエンティストとして特徴量エンジニアリングの最適化で価値を発揮出来た。 ## 取り組んだ課題 - 不正検知で最も重要な課題が特徴量エンジニアリング。 - Metromile社のデータサイエンティストとの対話、東京海上日動で現場の損害サービス社員との対話など、複数関係者と言語の壁も乗り越えながら関係者調整をする難易度が高いプロジェクト。 ## 取り組みの成果 - 本番実装まで完了し、不正保険金請求のスコアがダッシュボード上で表示される。現場の社員はこれを利用し、人の目で見落としてしまう保険金の不正請求が発見出来るようになった。 ## 特に工夫したこと - 保険金の不正請求に関する現状の業務プロセスや業務の目的を整理し、どういったKPIを開発する機械学習モデルに与えるべきかの議論を徹底した。 - 特徴量エンジニアリングでは、機械学習モデルが導出した不正保険金請求予測と、現場で不正検知を実際担当する社員の知恵を比較する。機械学習モデルが考慮しきれていない特徴量はどこか、そしてそれをデータから特徴量に落とし込むにはどういったデータエンジニアリングが必要かを試行錯誤して特徴量を最適化していった。Metromile社のデータサイエンティストとの対話、東京海上日動で現場の損害サービス社員との対話など、複数関係者と言語の壁も乗り越えながら最適な特徴量を定義し、データエンジニアリングを実施する部分で大きな価値を発揮出来た。 - プロダクト化では、Metromile社のAPIと東京海上日動のデータパイプラインを統合して機械学習モデルの予測がダッシュボードに反映する開発を実施。

# フリーランス契約：米国シリコンバレーVenture Capitalのスタートアップ企業分析アプリケーション開発 ## プロジェクト概要 - 個人の取り組み。米国シリコンバレーのVenture Capitalとのフリーランス契約でスタートアップ企業分析アプリケーションを開発。時間単価$120で2月に渡って合計40時間の契約。 - 企業データベースPitchbookと、LinkedInから取れる従業員数のデータを統合して企業分析プラットフォームを構築。 ## 取り組んだ課題 - LinkedInのデータ収集では、Webスクレイピングを実施。Seleniumを利用してGoogle Chromeのブラウザを起動し、ほしいデータを取得するプログラムを構築。LinkedInが少しでも通常動作と違った画面挙動を起こすとすぐにスクレイピングエラーとなる点が課題。 - ダッシュボードはノーコードツールRetoolを利用。MySQLサーバへのアクセス、契約先のVenture Capitalが使うSalesforceへのアクセスをさせて、各種企業データを可視化させるダッシュボードを構築した。 ## 取り組みの成果 - 契約先のVenture Capitalでこのアプリケーションを毎週の定例会議で利用。このプラットフォームから有望なスタートアップが市場に現れているかどうかを確認。投資家のネットワークに依存した有望スタートアップの発掘が、このアプリケーションによってより構造的、科学的に出来るようになった。 ## 特に工夫したこと - プロジェクトの目的を整理するところから議論し、目的を達成するためのデータがどこから取得するかを徹底的に議論した。また、開発システムの、業務プロセス上最もユーザにとって使いやすいUIについて継続的に改善案を提案した。 - LinkedInデータのスクレイピングプログラムのエラーハンドリング。丁寧にエラーキャッチするプログラムを作り、エラー発生時にはすぐ原因が特定出来るように工夫した。 - Microservice的にシステムを構築するために、ブラウザを起動するAWSの仮想Windowデスクトップと、Seleniumプログラムを動作させる環境を分離させた点。

# 東京海上日動PJT：分散型保険事業のスピンアウト化 ## プロジェクト概要 - 本業である東京海上日動の取り組み。 - 分散型金融(DeFi)の仕組みを使った保険サービス「分散型保険」を東京海上グループからのスピンアウトとして起業して事業化することを目指し、東京海上ホールディングスのデジタル戦略部門シリコンバレーラボで1年間研究。 - 野村総合研究所とChainlink、Consensysとの共同研究。 - スマートコントラクトの脆弱性をついたハッキングが起き、暗号資産の流出が起きた時にそれを補償するビジネスモデル。 - 分散型取引(DEX)や分散型レンディング関連のプラットフォームで起きる暗号資産流出を自動検出して補償する仕組みを研究開発。 ## 取り組んだ課題 - 分散型取引(DEX)や分散型レンディング関連のプラットフォームの仕組みを紐解き、不正な暗号資産流出が起きた場合ブロックチェーン上のデータはどのような特徴を持つのか仮説を作り、検証することを繰り返した。 - 大型暗号資産流出事件についてはプログラムの脆弱性がどういったもので、どのようにして発生したかの研究も実施。 - ビジネスモデルが完成し、分散型保険ビジネスを事業化する社内稟議に半年以上の期間を要した。Web3に馴染みのない経営層に対し、いかにして簡略化して事業内容を伝えるかが難しかった。 ## 取り組みの成果 - 半年以上の社内稟議にを経て、不確実性の高いビジネスモデルなため東京海上グループとして取り組むには時期尚早だったと結論を出す。 - 外部のハッカソンで功績をあげ、社内の発言力を高めた。ETHGlobalオランダのWeb3ハッカソンで部門1位(https://ethglobal.com/showcase/fujiflashloans-75zyb)、ETHGlobalコロンビアのWeb3ハッカソンで部門2位を獲得(https://ethglobal.com/showcase/a-i8rh1)。 ## 特に工夫したこと - 仮説と検証を繰り返し、エンジニア観点以上にビジネス観点で事業を創造し、合計30名以上のスタートアップ投資家、Web3スタートアップ創業者にピッチを行い、ビジネスモデルを作り込んだこと。協力者にはa16z、Polygon Ventures、Gumi Crypto Ventures, WiLのようなトップレベルの投資家や、Uniswap Foundation、Ensuro、BitFlyerのようなトップレベルの起業家がいた。 - 投資家のみならず、Chainlink、Consensys、NRIのようなパートナー企業も巻き込み、ビジネス創造を試みた。

ーーーーーーーーーーーーーーーー iOSアプリ個人開発：Punching Machine ーーーーーーーーーーーーーーーー # iOSアプリ個人開発：Punching Machine [GitHubリンク](https://github.com/JT-street53/punchingmachine) ## プロジェクト概要 - 個人の取り組みで、友人と2人で3日間iOSアプリ開発の勉強合宿を実施。 - 3日間の中でiOSアプリの設計・開発からリリース審査出願まで実施。 - アプリを起動し、iPhoneを握った手でシャドーボクシングをすると、パンチ力の計測が出来るゲーム。 ## 取り組んだ課題 - iOSアプリの開発自体初めてなため、SwiftやXCodeの使い方を学ぶところで苦労した。 - 「パンチ力」を測定して友達同士で盛り上がるようなUXをどのように実現するかが大きな課題。 ## 取り組みの成果 - iOSアプリの開発自体初めてであり、開発の仕方、XCodeの使い方を学ぶところからリリース審査の仕方まで一通りの流れをたった3日間で勉強しながら実現出来た。 - アプリのリリース審査で、iPhoneの故障や破損につながる内容であり、審査が通らず、リリースを断念。 ## 特に工夫したこと - 「パンチ力」を定義付けてどのように計測出来るかを企画・実行した。iPhoneに内蔵されているジャイロセンサーの扱い方を勉強し、ジャイロセンサーの計測値を一定時間で積分した数値をパンチ力として定義した。 - パンチする強さだけでなく、パンチするタイミングによっても「パンチ力」が変わる仕様となり、友達同士で盛り上がるようなUXを開発した。