【画像あり】Difyにモデルプロバイダーをインストールする方法

DifyにはSaaS版として提供されているものと、OSS（オープンソースソフトウェア）として公開されているDifyの2種類があります。

SaaS版にはあらかじめモデルプロバーダーが用意されていますが、VPSなどに自分でOSS版Difyを構築した場合は自分でモデルプロバイダーのインストールを行う必要があります。

そこで、本記事ではOSS版Difyにモデルプロバイダーをインストールする方法を解説します。

Difyを構築する場所

今回は、KAGOYA CLOUD VPSを使って構築するDifyを使って、モデルプロバイダーのインストール方法をご紹介します。

このKAGOYA CLOUD VPSを利用する場合、アプリケーションセットアップにてDifyの自動構築ができます。

OSとアプリケーションセットアップを選択

まず、OSからUbuntu Server(24.04)もしくはUbuntu Server(22.04)を選択し、アプリケーションセットアップでDifyを選びます。

スペックを選択しインスタンスを作成

次にスペックの選択を行いますが、Difyの利用には最低でもメモリが4GB以上である必要がありますので、「4コア 4 GB 600GB」（日額63円）以上のプランを選択します。

その後は、インスタンス名やログイン用認証キーなどを選択してインスタンスを作成します。

KAGOYA CLOUD VPSはリニューアルにより従来のSSDではなく、高速処理が可能なNVMe SSDが搭載されていますので、比較的構築までの時間は短く済みます。

これで、OSS版のDifyの構築は完了しましたので、インスタンスのIPアドレスでDifyへのログインページが表示できますので、任意の情報で管理者アカウントの設定を済ませておきましょう。

モデルプロバイダーをインストール方法

冒頭でもご紹介の通り、OSS版のDifyにはモデルプロバイダーがインストールされていない状態ですので、自身で行う必要があります。

インストール作業にはTeraTermなどのターミナルエミュレータを使用します。

モデルプロバイダーのインストール作業

今回はTeraTermを使った画面をもって解説を行います。

まずは、Difyを構築したインスタンスのIPアドレスにTeraTermでSSH接続します。

アクセスしましたら、/root直下に移動します。

cd /root

移動先でモデルプロバイダーをインストールします。

なお、今回はOllamaというモデルを利用します。

curl -fsSL https://ollama.com/install.sh | sh

インストールが完了しましたらOllamaを実行、Llama3.2をインストールしてチャットが可能か確認します。
(日本語でもチャット可能）

ollama run llama3.2

正常に稼働していることが確認できれば、以下のコマンドでチャットを終了させます。

/bye

モデルプロバイダー（Ollama）の設定を変更

ここまでの手順でモデルプロバイダーをDifyにインストールさせることは完了できました。

しかし、この状態のままではDify側からモデルプロバイダーにアクセスできませんので、このままコマンド入力にて設定を行う必要があります。

まずは以下のコマンドで設定画面を開きます。

sudo systemctl edit ollama.service

設定画面内の「## Edits below this comment will be discarded」と書かれた行より上に以下を記述を追加します。

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

入力後はCtrl+O 　→　 Enter　 →　 Ctrl+Xの順番に入力して上書き保存します。

最後にsystemdをリロードし、Ollamaを再起動させます。

sudo systemctl daemon-reload

sudo systemctl restart ollama

Difyの設定画面でモデルプロバイダーを選択

ここまでくれば、残るはDify側の設定でモデルプロバイダーの設定を完了させることができます。

Difyの画面右上にあるアイコンから「設定」を選択します。

遷移先ページのワークスペースからモデルプロバイダータブに移動し、先ほどインストールを行った（今回はOllama）を選択、インストールを行います。

すると、モデルプロバイダーページの上部にOllumaが表示されますので、「モデルを追加」を行います。

「モデルを追加」をクリックすると、ポップアップが表示されますので、そこでインストール作業の際に設定した情報も含め、以下のように入力します。

Model Name	llama3.2
Base URL	http://【IPアドレス】:11434
Completion mode	Chat
Model context size	4096
Upper bound for max tokens	4096
Vision support	Yes
Function call support	No

必要事項を入力して「保存」を押します。

モデルプロバイダーの設定にミスが無ければ、以下のように画面右上に「変更が正常に行われました」と表示され、モデルにインストールしたOllamaが表示されるようになります。

これでOSS版Difyでのモデルプロバイダーのインストール作業は完了となります。

まとめ

Difyはエンジニアでなくてもアプリ開発ができる便利な機能ですので、こういったコマンド作業に馴染みがないという方も一定数いるでしょう。

そうなった場合、インストール方法が分からず挫折してしまったり、SaaS版の利用を余儀なくされるといった方針変更が発生してしまいますので、この記事が少しでもお役に立てればと思います。