機械学習の動向調査、最近やってなかったので改めてやった

まず今回のchatGPTとかをリリースしてるのはOpenAIという非営利団体でイーロン・マスクとかも出資してるところ

ここがGPT-3とかクソデカ言語モデルを作ってた

今回、GPT-3.5とでもいうべきモデルを作ってて、それをさらに調整したのが今回のchatGPTなどで使われたっぽい

この調整の部分も大変だった、とある

そんで、来年あたりにGPT-4を予定していて、ただでさえパラメータがでかいGPT-3のさらに５００倍でかいらしい