CTO・データエンジニアがFindyイベントに登壇しました🎉~物理と人をつなぐ、データドリブンなシステム開発~【アーカイブ・追加資料あり】
こんにちは!オープンロジnote編集部です🧑🎓
11月7日(火)に開催された、Findy主催の「物理と人をつなぐ、データドリブンなシステム開発 - データ利活用とアーキテクチャの考え方 - 」に、弊社CTO尾藤と、データエンジニアの阿部が登壇しました🎉
アーカイブ動画
当日の配信を見逃してしまった方はこちらからご視聴ください✨
登壇スライド
阿部の発表では
・オープンロジのプロダクト紹介
・扱うデータについて
・データチームで行ったデータ基盤の刷新について
・データを活用した事例紹介
・データチームの今後の展望
についてお伝えしました。
資料はこちら!💁
【追加資料あり】パネルディスカッション
パネルディスカッションでは、CTOの尾藤が以下の質問に加え、視聴者様から当日寄せられた疑問にもインタラクティブにお答えしました。
Q1. 膨大なデータをどう蓄積、管理、運用しているか?
尾藤:基盤については今まさにつくっている段階なので、苦労している点をお伝えすると “既存のデータをベースに、どう基盤をつくるのか” が大変ですね。
阿部からもありましたが今ようやくDatastream for BigQueryを使って、生SQLのデータをBigQueryに同期することができ始めました。以前はEmbulkで対応していたのですが、これもメインの部分をようやく移行させられた段階なので、引き続き依存関係が強いものを丁寧にほぐしながら、Datastream for BigQueryに移行していかないといけないと考えています。
また、ビジネスサイドで持っているデータが点在していたり、使いきれていないデータもあるので、クレンジング、精緻化して、BigQueryに集約することを進めていかないといけません。
エレガントな方法を使って一気に切り替えるのは難しいので、ものすごく地道な作業を丁寧に、データをきれいにしながら集約していくという時間もかかります。効果がすぐ出るものでもないものを、着実にやっていくのが大変ですね。
Q2. 大量トランザクションに対応するアーキテクチャとは?
尾藤:この話をするにあたり、まず “引き当て処理” の説明をします。引き当て処理というのはオープンロジから倉庫への出庫のリクエストに対して、本当に出庫していいか確認するために倉庫の在庫を依頼に対して引き当てる、という処理のことです。
この引き当てる処理というのは順番に実行していかないといけないため、計算が直列にしか実行できません。その中で何万件の出荷をするとなると、引き当ての処理に時間がかかってしまい、倉庫様の業務に支障が出るという事態が発生します。
これを現在解決に向けて動こうとしているのですが、尚厄介なのがStoreShipmentです。
以下は社内のエンジニアが実際の取り組みを共有してくれたスライドです。
StoreShipmentには引き当ての処理だけではなく、温度帯や賞味期限管理などの諸々の処理が全部一つのクラス内に入っており、秘伝のたれ状態になっています。
なので、引き当ての処理に関して根本的に解消しようにも、StoreShipmentの中に処理があって、仕様は誰かの頭の中状態なので、なかなか大変ですよというのがいまの会社の状況です。
なので、大量データ処理の話で言えば、今の弊社は大量トランザクション処理を実現する前段の道のりをどうにかしようとしている所です、という回答になります。
Q3. 物流ドメインにおける醍醐味は?
尾藤:オープンロジだと物理的な物流の課題解決ができるのもありますし、物流版CDNがつくれるというのも魅力だと思います。阿部からも発表がありましたが、拠点を分散させるというのは私たちのような倉庫のネットワークを持っている会社でなければ実現できません。
インターネットの世界で言えばデータの配送を効率化しようとするとCDN使うと思いますが、私たちはそれを倉庫でも実現したいと思っています。
あとは自分がネットで商品を買った時、提携している倉庫から荷物が届くのも結構わかるので、自分が関わったシステムが社会で使われているのを実感できるのも魅力ですね。
また、世の中で今どういうものがよく配送されているのか手に取るようにわかるのも面白いです。
年末年始だと冷凍倉庫の需要が増えるのですが、なぜ増えるかというと例えば “たらばがに” を大量に配送するといったニーズが発生していたりします。=皆、年末年始にカニ食べるんだな、みたいなことが分かります。笑 季節感を味わうことができるのも魅力の一つかなと思います。
オープンロジでは一緒に働く仲間を大募集中です🤝
私たちと一緒に、物流という社会課題の解決に挑戦してくださるエンジニアを大募集中です!!
オープンロジの事業、そしてデータドリブンなシステム開発にご興味お持ちいただけた方は、
是非弊社👉採用ページ👈より、お気軽にカジュアル面談をお申込み下さい♪
※「応募先へのメッセージ」に「Findy登壇のnoteを見た!」と記載いただけると嬉しいですm(__)m