生成AIにおけるプロンプトの性能評価手法を構築 

株式会社philicは CreateArk Incと共に生成AIの開発サービスphilic.techの立ち上げました。生成AIにおけるプロンプトの性能評価手法の構築を目的として「校正くん」を開発した。

目次

philic.techの立ち上げについて

株式会社philicは「確かな知見による新たな価値を提供する」をキーワードに掲げ、新規事業開発、地方創生を行っておりました。昨年来より、生成AIの興隆をうけ、生成AIに関するR&Dをモデル評価指標や確率解析を強みとするCreateArk Incと共に行ってまいりました。この知見を活かし、この度生成AIを活用した事業開発プロダクト開発を一括で行うphilic.techをローンチいたします。

philic.techでは自然言語処理(NLP)と機械学習(ML)の専門家であるAIエンジニアがクライアントのニーズに合わせた生成AIの開発を実現いたします。

生成AIを活用したソリューション開発

既存自社システムや製品への生成AIの組み込み受託を行います。各モデルのパフォーマンスチェックにより、LLMモデルが貴社が望む結果となるように調整を行います。

新規事業の開発の支援

生成AIを活用した新規事業の開発支援を生成AIについての豊富な知見からおこないます。新規事業の企画のタイミングから、事業の構築の支援を実施します。開発支援においてはCreateArk Inc.と連携しておこないます。

生成AI導入・活用支援

各業界に合わせた生成AIの業務導入・活用を支援いたします。セキュリティAIの導入や業務内での成果を出せる活用のためのコンサルティングをおこないます。

お問い合わせはこちらよりお願いいたします。

校正くんについて

プロンプトエンジニアリングの重要性が高まる中で、科学的アプローチによるプロンプトの性能評価の必要性が求められます。当社ではLLMにて校正を行うツールを開発することによりプロンプトの性能評価指標の構築を行いました。

校正のタスクは一般的な2値分類問題としてとらえ、プロンプト毎のF値を求め比較することでプロンプトの性能を数値にて評価することが可能となりました。

その結果校正ツールとしてのF値が0.93という結果となり、精度の高い校正の実現が可能となりました。

校正くんでできること

1.誤字脱字の校正

校正文章

はじめまして、私の名前は田中 太郎です。私は30さいです。私が日本に住んでおり、東京の近くに住んでいます。趣味がいろんな物ですが、特に音楽を聞く、映画を観る、旅行行くが好きです。私の家族には両親と妹と一緒に住んでいて、ペツトの犬も一緒に暮らしている。私は現在、大手のIT企業に勤めており、ウェブ開発者として働いています。仕事にて、プログラム言語に、JavaScript、Python、Ruby等を使っています。私は大学で情報科学を学んだ、そして卒業後に現在の会社に入りまた。

全文出力

はじめまして、私の名前は田中太郎です。私は30歳です。私は日本に住んでおり、東京の近くに住んでいます。趣味はいろいろなものですが、特に音楽を聞くこと、映画を観ること、旅行に行くことが好きです。私の家族には両親と妹がおり、ペットの犬も一緒に暮らしています。私は現在、大手のIT企業に勤めており、ウェブ開発者として働いています。仕事では、プログラミング言語としてJavaScript、Python、Rubyなどを使っています。私は大学で情報科学を学び、そして卒業後に現在の会社に入りました。

2.前後の文脈を踏まえた校正

校正前文章

顧客は建設会社か工務店で、消費者からのクレームに悩むこともない。いわゆるBtoCという業種で、業績もよい。

校正後文章

顧客は建設会社か工務店で、消費者からのクレームに悩むこともない。いわゆるBtoBという業種で、業績もよい。

本開発の内容については、noteにて詳細を公開しております。

株式会社philic.inc会社概要

株式会社philicは「確かな知見による新たな価値を提供する」をキーワードに掲げ、テクノロジーとスタートアップ、企業間の共創をテーマに、新規事業開発支援、地方創生支援事業をおこなう。

CreateArk 会社概要

CreateArk Inc.はUnreal Engineに代表されるゲームエンジンを用いたゲーム制作を主軸に、社会にまだない価値を届けるクリエイター集団です。ゲーム制作は3DCGや生成系AIなど現代では既に高度に抽象化された高レイヤの技術から、ハードウェアに近い低レイヤまでを縦横無尽に行き来します。最新の技術を取り込みつつ、時におのおのの専門領域の垣根を越えて活動することで、硬直的でない「生きる創造」を届けます。

この記事が気に入ったら
いいね または フォローしてね!

参考になったらシェア!

この記事を書いた人

魔理沙っちのアバター 魔理沙っち 自称:精肉社畜個人投資家自作erブロガーゲーマー

#ブルプロ待機勢
化け物スペック魔女っ子!!!!!!!!!!!!!!
https://potofu.me/marisachi426

普段は精肉で鶏肉を開いてる社畜さha!
家帰ればすぐさま始まる俺の第二姿ho!
自作、サイト運営、雑談なんでもカモーン!!
オンラインゲーム仲間募集中!
DiscordID:Marisa45201#0145

コメント

コメントする

目次