【Online】LINEヤフー米国データセンタ技術の最前線
LLM(大規模言語モデル)と水冷技術への挑戦

2024年9月19日

主催:技術委員会

技術委員会では、IT・ソフトウェア関連技術の最新動向について、会員企業をはじめとする皆様に情報発信しています。

今回はLINEヤフー出身のエンジニアの松谷憲文氏を講師にお招きし、2014年の渡米後から、AI・ビッグデータのためのデータセンター建設・運用経験をもとに、LLMには欠かせないインフラであるデータセンターをテーマに、その水冷技術の最新動向についてご講演いただく運びとなりました。

 オンライン開催となり、場所を問わずにご参加いただけますので、ご興味のある方をお誘い合わせの上、お申し込み下さい。

概要

日  時 2024年10月25日(金) 16:30~17:15
会  場 オンライン(zoomウェビナー)
※開催前日に、セミナー登録用URLをご案内いたします。
対  象 SAJ会員・一般(経営層・経営企画・技術者向け)
参 加 費 無料
定  員 100名
※但し定員になり次第、締め切ります
申込方法 本ページ下方の「お申込み」よりご登録ください

プログラム

時間 内容
16:30~16:33 事前説明(受講留意点等)/開会挨拶
16:33~17:40

LINEヤフー米国データセンタ技術の最前線:LLM(大規模言語モデル)と水冷技術への挑戦

概要:
一部では、LLMの導入によるサーバワークロードの大幅増加が、データセンタのインフラにどのような影響を与えるかを探求します。特に、これまで十分に活用されていなかったデータセンタのリソースが極限まで使用されるようになり、電力、冷却能力、ネットワークにどのような影響があるかを調査します。この過程で、米国企業から得た情報に基づき、GPUサーバの最大負荷時の風量問題に焦点を当て、水冷技術を用いた場合の風量削減の可能性と限界を検証します。

二部では、GTC(GPU Technology Conference)で発表された新しいGPUサーバであるGB200 NVL72の導入検討に際し、なぜ水冷技術が必須とされているのかを米国企業から得た情報を基に解説します。この技術がネットワークの帯域不足を解決するためにどのように利用されているか、その本質に迫り、導入の必要性を詳述します。

Actapioでは、米国の「課題解決の先駆者」から入手した最新の情報をもとに技術検証を行い、最善の技術を選択しています。今回は、異なる課題を水冷技術で解決できることを検証しました。これは、米国で検証や実施を行える環境を持っているからこそ可能です。

課題の先駆者と私たちのような利用者では、差は広がる一方です。今後の未来に向けて、私たちがどうすればよいのか、一緒に議論できると幸いです。

講師:松谷 憲文 氏
(Actapio, Inc. CEO & President)

※プログラムは、進行状況により変更される場合がございますのであらかじめご了承ください。

講師略歴

松谷 憲文 氏
(Actapio, Inc. CEO & President)

2000年から2014年までヤフーにてインフラの設計、構築、運用を担当し、プロダクションネットワークのBGP化、JPNIC・APNIC・ARINでのAS(AS23816、AS24572、AS18140)取得、バックボーンネットワークの仮想化およびVPLS化、国内最大規模のOpenstackクラスター構築、東京、大阪、中部、九州、東北地区におけるデータセンター建設などを行い、2014年に渡米してLINEヤフー株式会社の米国法人であるActapioに出向し、AI・ビッグデータのためのデータセンター建設やサーバ運用に従事、現在は会社経営を行いながらOCP(Open Compute Project)サーバの運用やAIビジネス開発を担当している。

お申込み

以下の「お申込みフォーム」より対象セミナーを選択の上、ご登録をお願いします。

お申込みフォーム

お問い合わせ

一般社団法人ソフトウェア協会(SAJ)
事務局 若生 お問い合わせフォーム

PAGE TOP