GitHub Copilotの裏側、GPT、GPT-3、Scaling Law、Multi-head Attention、難解なトピックをわかりやすくする説明する方法などについて語っていただいたエピソードです。話したネタ AIcia Solid Project GitHub Copilot とは？(補足: 本ep公開時点でGA) GitHub Copilot の裏側で何が動いているのか？ GPT(Generative Pre-trained Transformer) とは何か？言語モデルのパラメータとは？パラメータって GPT では、どのぐらいの数があるのか？パラメータとは数が多ければいいもの？ Youtube: 【深層学習】Scaling Law - 大きい Transformer は強い【ディープラーニングの世界vol.38】論文: Scaling Laws for Neural Language Models 学習の計算量と時間量 DALL·E 2 Transformer は並列が得意、とあるがもともとはできなかった？ LSTM(Long Short Term Memory) Multi-head Attention とは？ GPT -> GPT-2 -> GPT-3 と進化するときに何が変わった？ GPT-3 の弱点は？ The Google engineer who thinks the company’s AI has come to life GPT-3 を使う側は何をすればいい？ Fine Tuning と Hugging Face YouTube: 【深層学習】GPT-3 ①-2 追加学習なしでタスクに対応する仕組み【ディープラーニングの世界vol.39-2】 Few-Shot、 One-Shot、 Zero-Shot 動画でわかりやすく説明するために何を意識している？数式にこもっている魂を抜き出して説明する非専門領域の人にわかりやすく伝える方法なぜこの活動(AIcia Solid Project)を続けられている？ (収録で間に合わなかった重大告知) 2022/7/26に書籍分析モデル入門が発売開始！訂正冒頭で "fukabori.fm の76回です" と言っていますが "75回" の間違いです。 See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related