高橋かずひとのプログラミング、その他、備忘録。

日々調べてたことや、作ってみたものをメモしているブログ。 お決まりの断り文句ですが、このブログに書かれている内容は個人の見解であり、所属する組織の公式見解ではありません。チラ裏。

LLM

新着順 人気順

自分用ライブラリ:LiteLLM Ledger

LLM

自分用ライブラリの供養です LiteLLM(OpenAIとかGeiminiとか色々なAPIを統一したI/Fで扱えるライブラリ)をラップして、各APIコールの使用トークン数とコスト計算を記録するライブラリです。 完全自分用ライブラリで、コスト計算の正確性は保証しません高橋…

Voxtral-Mini-3B の文字起こしを Colaboratory でお試し🦔

Voxtral-Mini-3B を味見しています3Bでありながら、それなりのチャット性能を持ち、テキスト+オーディオへの回答や、文字起こしなども出来るモデルです。3Bの他に24Bも公開されていますが、fp16でGPU RAMが55GB必要らしいので、僕の扱える環境では動かすこ…

OpenAI の Swarm で 画像認識したり、処理の移譲をするメモ🐝

以下を試したときのメモをZennに書きましたまあ、正直小細工ではあります。すぐにこんな小細工も必要ないくらいGPT進化すると思っていますが。。。 OpenAIのSwarmさんで画像認識を試しています。とりあえず、GPT-4o miniが苦手な座標取得を依頼された時に、F…

ChatGPTのAPI(モデル:gpt-4o-2024-05-13)をお試し👀

進化していますね どーいう学習とかアーキ変更とかしたら、スキマナースに対応できるよーになるのか分からん https://t.co/cL8eh9tcuK — 高橋 かずひと@闇のパワポLT職人 (@KzhtTkhs) 2024年5月13日 これ読めてるのすげーな「鉢は金属製で、1つの鉢には「TOD…