世界的エンジニア中島聡氏が連載「人工知能入門」を開始。第1回「コンピュータは似ている言葉をどう判断しているか」を全文掲載

なんだか魔法のような技術ですが、これがText Embeddingであり、この技術が、ChatGPTなどの「自然言語を理解する人工知能」の基礎になっているのです。

OpenAIのEmbedding APIが、どうやって計算しているか知りたい人もいるでしょうが、「十分な数のパラメータを持つニューラルネットに、たくさんの入力データと期待する答えを与えて、徐々にパラメータを調節した結果作った、Embedding Modelというニューラルネットを使って計算している」というのが答えです。

ニューラルネット一般に言える話ですが、1,536もある次元のそれぞれの数字が何を意味するのか、設計者も知りません。どこにどんな数字を置けば良いのかは、ニューラルネットワーク自身が、学習過程で自分で見つけ出したのです。

（中島聡さんのメルマガ『週刊 Life is beautiful』5/14号では、メインコラム「オープンソースLLMが最終的に勝つ理由」「検索ビジネスの終わりの始まり」「カンファレンス・バケーション」のほか、読者Q&Aコーナーも掲載中。初月無料のお試し購読で今すぐ受け取ることができます）

この記事の著者・中島聡さんのメルマガ

初月無料で読む

※ワンクリックで簡単にお試し登録できます↑
￥880/月（税込）初月無料　毎週火曜日(年末年始を除く)
月の途中でも全ての号が届きます

中島聡さんの最近の記事

初月無料購読ですぐ読める！ 5月配信済みバックナンバー

2024年5月配信分

週刊Life is beautiful ２０２４年５月１４日号：人工知能入門：Text Embedding、「似ている言葉」の話、オープンソースLLMが最終的に勝つ理由、検索ビジネスの終わりの始まり、カンファレンス・バケーション(5/14)
週刊Life is beautiful ２０２４年５月７日号：人工知能が人間の言葉に変化をもたらし始めた話、App Economy Insightsを活用したIncome Statementの見方(5/7)

いますぐ初月無料購読！

＜こちらも必読！月単位で購入できるバックナンバー＞

2024年4月配信分

週刊Life is beautiful ２０２４年４月３０日号：金子勇の死と共に失われた人工知能の超絶技法、MicrosoftがGPUを大量に購入する理由、MetaがHorizon OSをオープン化する理由(4/30)
週刊Life is beautiful ２０２４年４月２３日号：河野太郎氏との対談予告、Enhanced Sports(4/23)
週刊Life is beautiful ２０２４年４月１６日号： AIブームはバブルなのか？AIブームはまだまだ序盤戦(4/16)
週刊Life is beautiful ２０２４年４月９日号：私がサプリメントを拒否する理由、Tesla FSD v12(4/9)
週刊Life is beautiful ２０２４年４月２日号：生成系AIのポテンシャル、Redditの上場、大谷翔平のスポーツ賭博スキャンダル(4/2)

2024年4月のバックナンバーを購入する

2024年3月配信分

週刊Life is beautiful ２０２４年３月２６日号： AI Chatは、Google検索を超えるか？、オンライン・ビデオ講座(3/26)
週刊Life is beautiful ２０２４年３月１９日号：日本だけが経済成長していない理由、鯨の歌を聞くデバイス(3/19)
週刊Life is beautiful ２０２４年３月12日号： Google Geminiの失敗が明らかにしたGoogleが抱える大きな問題(3/12)
週刊Life is beautiful ２０２４年３月５日号：ライドシェアの解禁、人工知能とWorld Model(3/5)

2024年3月のバックナンバーを購入する

2024年2月配信分

週刊Life is beautiful ２０２４年２月２７日号： PFAS汚染問題、Singularity Society(2/27)
週刊Life is beautiful ２０２４年２月20日号：バーチャル・モデル、男性版(2/20)
週刊Life is beautiful ２０２４年２月１３日号：ローカルマシンで画像生成をする方法(2/13)
週刊Life is beautiful ２０２４年２月６日号： Teslaの決算(2/6)

2024年2月のバックナンバーを購入する

2024年1月配信分

週刊Life is beautiful ２０２４年１月３０日号：生成型AIと著作権(1/30)
週刊Life is beautiful ２０２４年１月２３日号：新聞・雑誌メディアのビジネスモデル、AI生成バーチャルモデル(1/23)
週刊Life is beautiful ２０２４年１月１６日号：地震の震度、日本のバブルが残した世界有数のリゾート(1/16)
週刊Life is beautiful ２０２４年１月９日号：スマホを持ったサル(1/9)
週刊Life is beautiful ２０２４年１月２日号：人工知能の今とこれから(1/2)

2024年1月のバックナンバーを購入する

2023年12月配信分

週刊Life is beautiful ２０２３年１２月２６日号：日本の政治を浄化する特効薬、Tesla Model Y(12/26)
週刊Life is beautiful ２０２３年１２月１９日号：ふたご座流星群、Civil Rights Movement and Woke(12/19)
週刊Life is beautiful ２０２３年１２月１２日号：Elon vs. Walt Disney、LLMの弱点(12/12)
週刊Life is beautiful ２０２３年１２月５日号：市民X：謎の天才「サトシ・ナカモト」、Costcoのビジネスモデルとe-commerce3.0(12/5)

2023年12月のバックナンバーを購入する

image by: Shutterstock.com

中島聡この著者の記事一覧

マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。IT業界から日本の原発問題まで、感情論を排した冷静な筆致で綴られるメルマガは必読。

有料メルマガ好評配信中

初月無料で読んでみる

この記事が気に入ったら登録！しよう『週刊 Life is beautiful 』

【著者】中島聡【月額】初月無料！月額880円（税込）【発行周期】毎週火曜日(年末年始を除く) 発行予定

ページ: 1 2 3