llama.cppとPLaMo翻訳モデルでOpenAI API互換の翻訳サーバーを立てる

この記事では、llama.cppでPLaMo翻訳モデルをローカルのOpenAI API互換サーバーとして立ち上げ、日英翻訳をcurlで実行する手順を紹介します。

java-llama.cppを使ってローカルLLMでテキスト生成する

この記事では、java-llama.cpp 4.1でローカルLLMをJavaに組み込む手順を紹介します。

llama.cppでGemma 3 27Bを動かしてSpring AIからアクセスする (MCP連携あり)

llama.cppでDeepSeek-R1-Distill-Qwen-32B-Japaneseを動かしてSpring AIからアクセスする

llama-cppのOpenAI互換サーバー機能を使ってSpring AIからアクセスする

llama-cpp-pythonを使ってLlama 3モデルを使ったOpenAI互換サーバーを起動しSpring AIからアクセスする

llama-cpp-pythonを使ってGemmaモデルを使ったOpenAI互換サーバーを起動しSpring AIからアクセスする

llama-cpp-pythonを使ってローカルLLMでテキスト生成とOpenAI互換サーバーを立てる