G-gen の佐々木です。当記事では、生成 AI モデルである PaLM 2 のチャットボットを構築した際に、モデルからの回答文で同じ文章が何度も繰り返されてしまう事象の解決策を紹介します。 前提知識 事象 解決策 Frequency Penalty パラメータ サンプルコード Frequency Penalty の調整 前提知識 PaLM 2 は Google が開発した生成 AI モデルです。Google Cloud の機械学習サービスである Vertex AI で PaLM API として公開されて
はじめに こんにちは!ワンキャリアでONE CAREER for Engineer(以降、OCE)開発チームのテックリードをやっている高根沢です。 皆さんはKubernetes、使っていますでしょうか? OCE開発チームではインフラにKubernetesを使っているのですが、最近あった学びについてお話しできればと思います。 具体的には、「Kubernetes Service Account(以降、KSA)とGoogle Service Account(以降、GSA)を連携することで、GKE上にデプロイされ