部署谷歌的Gemini大模型

港控/mmm° 2024-02-05 19:03 58阅读 0赞

### 前言 ###

本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型，以及没有服务器的情况下如何使用Vercel来部署。

> Demo:
> 
> 使用新加坡云服务器部署：[Gemini Pro Chat (snowice.eu.org)][Gemini Pro Chat _snowice.eu.org]
> 
> 使用Vercel部署：[Gemini Pro Chat (snowice.eu.org)][Gemini Pro Chat _snowice.eu.org 1]

> **作者项目地址[babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)][babaohuang_GeminiProChat_ Minimal web UI for GeminiPro. _github.com]**

### 部署 ###

#### 获取API ####

![8b811c19be8d58eae944ae924a89b8cb.png][]

#### Docker部署 ####

如果你还没有安装Docker，[Centos7安装Docker和Docker-Compose][Centos7_Docker_Docker-Compose]

本教程使用的是新加坡的云服务器，如果你使用国内的可能需要代理！

docker run --name geminiprochat \
    --restart always \
    -p 3000:3000 \
    -itd \
    -e GEMINI_API_KEY=*** \
    babaohuang/geminiprochat:latest

`***`改为你获取到的API

**还可以设置别的环境变量，例如设置网站密码为'123'**

docker run --name geminiprochat \
    --restart always \
    -p 2990:3000 \
    -itd \
    -e GEMINI_API_KEY=*** \
    -e SITE_PASSWORD=123 \
    babaohuang/geminiprochat:latest

<table> 
 <tbody> 
  <tr> 
   <td><strong>环境名</strong></td> 
   <td><strong>描述</strong></td> 
   <td><strong>是否必填</strong></td> 
  </tr> 
  <tr> 
   <td><code>GEMINI_API_KEY</code></td> 
   <td>您的 GEMINI 的 API 密钥。你可以从<a href="https://makersuite.google.com/app/apikey" rel="nofollow" title="这里">这里</a>得到它。</td> 
   <td>是</td> 
  </tr> 
  <tr> 
   <td><code>API_BASE_URL</code></td> 
   <td>GEMINI API 的自定义基础 URL。点击<a href="https://github.com/babaohuang/GeminiProChat?tab=readme-ov-file#solution-for-user-location-is-not-supported-for-the-api-use" title="此处" rel="nofollow">此处</a>查看如何使用。</td> 
   <td>否</td> 
  </tr> 
  <tr> 
   <td><code>HEAD_SCRIPTS</code></td> 
   <td>在页面的 &lt;/head&gt; 标签之前注入分析或其他脚本。</td> 
   <td>否</td> 
  </tr> 
  <tr> 
   <td><code>PUBLIC_SECRET_KEY</code></td> 
   <td>项目的秘密字符串。用于生成 API 调用的签名。</td> 
   <td>否</td> 
  </tr> 
  <tr> 
   <td><code>SITE_PASSWORD</code></td> 
   <td>为站点设置密码，支持多个用逗号分隔的密码。如果未设置，站点将是公共的。</td> 
   <td>否</td> 
  </tr> 
 </tbody> 
</table>

#### Docker-Compose部署 ####

首先创建docker-compose.yml

vim docker-compose.yml

将以下内容粘贴到yml文件中，同样的将\*\*\*换成获取到的API，同样的也可以设置别的环境变量

version: '3'
    
    services:
      geminiprochat:
        container_name: geminiprochat
        restart: always
        ports:
          - "3000:3000"
        environment:
          - GEMINI_API_KEY=***
        image: babaohuang/geminiprochat:latest

**设置网站密码为'123'**

version: '3'
    
    services:
      geminiprochat:
        container_name: geminiprochat
        restart: always
        ports:
          - "3000:3000"
        environment:
          - GEMINI_API_KEY=***
          - SITE_PASSWORD=123
        image: babaohuang/geminiprochat:latest

##### 以“后台模式”运行服务 #####

docker-compose up -d

##### 更新服务 #####

###### 首先先暂停容器(回到你这个容器的docker-compose.yml目录下执行命令) ######

docker-compose down

###### 重新拉取镜像 ######

docker-compose pull

###### 再次运行即可 ######

docker-compose up -d

#### Vervel部署 ####

[Vercel][]点击一键部署，当然你也可以fork该项目自行使用Vervel部署

\[t-primary icon=''\]点击`Create`\[/t-primary\]

![14b17cce481b3df898e81b74c0abb0df.png][]

输入你的API 点击`Deploy`

![421978b56ffe786785804e3b8976492a.png][]

稍等片刻 部署成功

![57915fdb6c609410a94d984ae7f252a5.png][]

部署成功之后Vervel会送你一个域名可以访问该项目，但是该域名被墙了，因此需要自行添加域名。

[在Vercel上配置自定义域名][Vercel 1]

[Gemini Pro Chat _snowice.eu.org]: https://sg.snowice.eu.org/
[Gemini Pro Chat _snowice.eu.org 1]: https://gemini.snowice.eu.org/
[babaohuang_GeminiProChat_ Minimal web UI for GeminiPro. _github.com]: https://github.com/babaohuang/GeminiProChat
[8b811c19be8d58eae944ae924a89b8cb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/30/98ae0668764f40e594056ca10f3a3eab.png
[Centos7_Docker_Docker-Compose]: https://xue6ing.cn/centos7-install-docker-docker-compose/
[Vercel]: https://vercel.com/new/clone?repository-url=https://github.com/babaohuang/GeminiProChat&env=GEMINI_API_KEY&envDescription=Google%20API%20Key%20for%20GeminiProChat&envLink=https://makersuite.google.com/app/apikey&project-name=gemini-pro-chat&repository-name=gemini-pro-chat&demo-title=Gemini%20Pro%20Chat&demo-description=Minimal%20web%20UI%20for%20Gemini%20Pro.&demo-url=https%3A%2F%2Fgeminiprochat.com&demo-image=https%3A%2F%2Fgeminiprochat.com%2Ficon.svg
[14b17cce481b3df898e81b74c0abb0df.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/30/8a51f70113414f09b80c01fe30016d50.png
[421978b56ffe786785804e3b8976492a.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/30/82d09273138345dab1b06c609abfa77d.png
[57915fdb6c609410a94d984ae7f252a5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/30/7b6293466b034f59841d84ac07f7ae9c.png
[Vercel 1]: https://xue6ing.cn/archives/vercel-pei-zhi-zi-ding-yi-yu-ming