GPUtopiaでChatGPTライクなAIを使用してみる

前回の記事で言及したGPUtopiaですが、今回のアップデートであるv3からはGPUリソースを借りることが出来るようになりました。

一回の質問につき費用は7satsで、その内訳はGPUリソースの貸出者に対し6sats,運営に1satという割合です。

上のタブからBuyをクリックすると、AIチャットという項目が出現するのでこれをクリック。GPTライクな対話式のインターフェイスが登場します。

注意事項としては、機密情報は書き込まないでねとの事で、この辺はChatGPTなどでも同じですね。

無難な質問を投げてみましょう、LightningNetworkのメリット・デメリットについて聞いてみました。

お、すごい！ 意外としっかりとした回答が返ってきましたね。

ちなみに、この文章を出力するまでに15分ほどかかりました。流石にChatGPTと比べるのは酷なので辞めておきましょうｗ まだまだベータ版のサービスですので…。

GPUリソースを売る側は3つのモデルから自分のスペックに合ったモデルを選択出来るようなので、質問する側も将来的にはモデルの選択が出来るようになるのでしょうか。（現時点ではVicuna 7Bというモデルのみみたいです）

ちなみに、リソースの貸出で報酬を得ようと思ったところ、v3になってからは中々収益が上がらないです。

どうやらサーバへのレイテンシが関係しているようで、レイテンシが低い（サーバに近い）米国東海岸のユーザにジョブが優先的に回っているようです。今後の改善に期待です。