ホーム » 一般
「一般」カテゴリーアーカイブ
博物館用RAG(Retrieval-Augmented Generation)を作ってみました
皆さんこんにちは、さくらインターネット研究所の菊地です。
研究所ではAI・LLM（大規模言語モデル）技術に関して、技術そのものの発展のための本質的な研究からLLMを応用的に利用する研究まで、幅広く様々な領域での調査・検討を実施しています。今回はLLMを実際的に使う際にLLMに固有知識（ドメイン知識）を活用させるための手法として、汎用性があり使い勝手が良く近年注目されているRAG(Retrieval-Augmented Generation)を実際に試してみましたので、そのノウハウなどを簡単にご紹介したいと思います。
[続きを読む]さくらインターネット研究所 研究開発グループの取り組み紹介（24年4月）
こんにちは、さくらインターネット研究所 研究開発グループのグループリーダー菊地です。研究所ブログ記事としてはかなり久しぶりになってしまいましたが、研究所（研究開発グループ）の取り組み内容（研究テーマ）をご紹介したいと思います。
さくらインターネット研究所は現在、研究開発グループとプロダクト開発グループの２グループ体制となっておりまして、研究開発グループは、従来から引き続き、各研究員がそれぞれテーマを持って研究を推進するスタイルとなっています。研究テーマは時期で一律に区切るものではない（研究員がそれぞれ自分の考えるスパンで取り組む）のですが、年度の区切りでまとめるようにはしていて、2024年4月時点での各研究員の研究テーマは以下のようになっています。
[続きを読む]3次元結晶構造に基づく材料の物性予測についてICMLA2023で発表しました
さくらインターネット研究所の鶴田（@tsurubee3）です。2023年12月15〜17日にアメリカ合衆国フロリダ州ジャクソンビルで開催された22nd International Conference on Machine Learning and Applications (ICMLA 2023)にて、「DeepCrysTet: A Deep Learning Approach Using Tetrahedral Mesh for Predicting Properties of Crystalline Materials」と題した研究について発表しました。
この研究は、マテリアルズ・インフォマティクスと呼ばれる材料科学と情報科学の融合分野における研究です。これまでさくらインターネット研究所では、ITインフラが主な研究開発の対象分野でしたが、最近では、大学や企業と連携しながら材料科学や創薬などの自然科学分野の研究開発にも積極的に取り組んでいます。今回の研究発表は、以前のプレスリリースでもご紹介した京都大学複合原子力科学研究所と共同で取り組んだ成果です。
3次元メッシュに対する深層学習を用いた材料物性の予測についてJSAI2022で発表しました
さくらインターネット研究所の鶴田（@tsurubee3）です。2022年6月14〜17日に国立京都国際会館とオンラインのハイブリッドで開催された2022年度 人工知能学会全国大会（第36回）にて、「3次元メッシュで表現した結晶構造を用いた材料物性の予測に向けた深層学習モデルの設計」と題した研究について発表しました。これは、マテリアルズ・インフォマティクスという材料科学と情報科学が融合した分野の研究であり、機械学習を専門とする鶴田と材料科学を専門とする桂先生、熊谷さん（@kumagallium）のコラボレーションにより生まれた研究です。
論文やスライドも公開しておりますので、ご興味のある方はぜひご覧ください。
更なる実践的な研究開発を目指して研究開発エンジニア2名をお迎えしました
まつもとりーです。さくらインターネット研究所では、各研究員が自由に研究をおこないつつも、ひとつの研究所全体のミッションとして、会社、あるいは、業界において今後数年先に必要とされる技術やプロダクトを、ある種の斥候チームとして調査したり研究したりしています。
そのような背景の中、各研究員は専門領域の最新研究動向について調査しながら、その中で新しい研究を日々おこなっています。例えば、関連研究を大量に調査して課題を炙り出したり、研究の貢献を示すために沢山のコードを書いて評価したり、その成果や研究のストーリーを論文として言語化したりしています。
一方で、斥候チームとしてのミッションからした時に、そのような調査結果や研究成果を更に使いやすいようにする、例えば、OSSのようなソフトウェアに落とし込んでフィードバックの中からエンジニアがより使いやすいソフトウェアになるように実装したり、今後必要とされるプロダクトをより良いものにするための体系的な知識に昇華したりしていきたいのですが、そういった実践面の取り組みについて、なかなか手が回らないという悩みがありました。それ程、論文というフレームワークを使いながら、研究の価値を示していくことは大変な作業ではあります。
しかし、その価値をソフトウェアとしてエンジニアが当たり前に使ったり、体系的な知識として参考にしたりするような実践的な領域にまで引き上げられないまま、論文やPoCの実装としてのみ残されていくのは大きな損失であると感じていました。
そこで、さくらインターネット研究所では新たに研究開発エンジニアというポジションを設け、研究員が新しい研究として価値を示しつつも、その価値がエンジニアやプロダクト開発の助けとなるような実践的な領域に、研究者と研究開発エンジニアの両輪で引き上げていくための取り組みを開始しました。
そのために、まずは研究開発エンジニアとして2名をお迎えして、引き続きさくらインターネット研究所の研究開発成果やその為に調査して整理した最新の知見を、研究員と研究開発エンジニアの両方向からさらにブラッシュアップし、さくらインターネット、ひいては、業界全体に実践面からも貢献できるように取り組んで参ります。
そこで、本エントリでは、2022年2月からさくらインターネット研究所に配属された2名に自己紹介とこれからの取り組みを簡単に紹介してもらいます。
自己紹介 (田村)
はじめまして、さくらインターネットの田村です。2019年11月に入社して以来、主に新しいプロダクトの開発を行う部署の中で、基盤環境の整備やサービス開発を担当してきました。技術面ではKubernetesや、その周辺に触れることが多く、これまでに行ってきた具体的な取り組みとしては、Cluster APIを利用したカスタムコントローラーの開発などが挙げられます。
今回、さくらインターネット研究所の研究開発エンジニアとして、ソフトウェア開発や調査をはじめとする様々な取り組みに携わっていくことになりました。これまでの経歴の中では、顧客向けのシステム開発や、Webサービスの開発などが主な業務でしたので、少し毛色の異なる環境に身を置くことになります。とはいえ、今までに得た経験を活かせるところもあるかと思いますので、研究から生じる成果がより良いものになるように、研究員の皆様と協力して取り組んで参りたいと思います。
自己紹介 (野田)
はじめまして、さくらインターネットの野田( @sonod00 )です。
2月1日よりさくらインターネット研究所に研究開発エンジニアとしてジョインしました。
これまでは社内で新規プロダクトのマネージメントや開発を行っておりました。
この新規プロダクトをやるまでは別の企業でホスティング関係のインフラエンジニアをやっておりました。
新規のプロダクトを作って行く中で、プロダクトマネジメントやUXデザインの大事さとプロダクトマネージャー以外の職種もプロダクトについて知ることでよりよいプロダクト作りができると感じました。
自分自身、エンジニアをしていた頃はこんなことを考えることはほとんどありませんでした。
しかし、プロダクトに関する知識は、専門的なことも多く何から学ぶべきかわからない部分が多々あります。
そういったプロダクトマネジメントやUXデザインを一般化したりエンジニアとして汎用化していきたいと考えています。
また、今後来るであろうプロダクトを調査したり、タイミングによっては新規プロダクト開発もやっていきたいと考えています。
これから様々な形でプロダクトに関わって行ったり思っておりますので、よろしくお願いします。
チームの絆を深めるための総当り1on1の実施と1on1のときに気をつけていること
さくらインターネット研究所のまつもとりーです。
まずいきなりですが、最初にタイトルにあるように1on1と書いていますが、一般的に1on1というと、1on1をする側とされる側のようなイメージがあるようにも感じています。ですので、ここでいう1on1はあくまでお話する二人が対等でありたいという意図を込めて、研究所では例えば「研究相談会」などとして、する・されるのような立場があまりないようにしています。
いきなり脱線しましたが、ここから本題です。コロナ禍や日常的なリモートワークの影響の中、チームや組織でのコミュニケーションをどう改善するかという取り組みが各社沢山されてきていると思います。さくらインターネット研究所でも、夕方にみんなで集まって雑談したり、もくもく作業をするもくもく会をしたり、定期的な所謂1on1を設定したり、コロナの状況が一時改善したときは、たまにオフィスに集まってリアルにコミュニケーションをとったりしてきました。
また、チームの中でモチベーションが上がらない場合、自分の制御下で会話の場に入らず、コミュニケーションをとらない選択を簡単にできることから、どんどん気持ちが乗らない状況に陥っていくこともあります。そういった状況を避けるために、自分やメンバー間でそういう雰囲気を感じたら、それぞれが任意で会話をしたりしながら、チームのモチベーションを維持してきました。
一方で、それらの取り組みでなかなか改善できていなかった課題を整理してみると、
- オープンな場では話にくいような悩みについて相談しにくい
- 同僚、あるいは、ある種の仲間として、対等に信頼関係のあるなかでクローズドにざっくばらんに話ができない
- 1や2の話は自分の問題であるように矮小化して考えることがあり、同僚に気を使って誘いにくい
といったような状況がありえます。特に、3のような状況が複数のメンバーで生じた場合、任意に気づいた人が声をかけるといったことも起きにくくなり、チーム全体として少しずつストレスを抱え、弱まっていってしましいます。相談や悩みというのは、何でも上司と話たいわけではなく、当然同じ目線や同じ立場で話がしたいこともあるからです。
[続きを読む]