nodejs流式反向代理ollama api示例代码

代码语言:nodejs

所属分类:其他

代码描述:nodejs流式反向代理ollama api示例代码

代码标签: nodejs 流式 反向 代理 ollama api 示例 代码

下面为部分代码预览,完整代码请点击下载或在bfwstudio webide中打开

const http = require('http');
const url = require('url');
const fs = require('fs');
const path = require('path');
const { exec, spawn } = require('child_process');
const httpProxy = require('http-proxy');
const os = require('os');

const axios = require('axios');
const { setTimeout } = require('timers');

// 创建一个 Map 来存储正在进行的请求
const activeRequests = new Map();
// 创建反向代理服务器
const proxy = httpProxy.createProxyServer({ ws: true });


// 监听 proxyReq 事件来获取后端请求对象
proxy.on('proxyReq', (proxyReq, req, res) => {
  //proxyReq.setHeader('Host', 'localhost:11434');
  activeRequests.set(req, proxyReq);
});

// 监听 proxyRes 事件来清理已完成的请求
proxy.on('proxyRes', (proxyRes, req, res) => {
  activeRequests.delete(req);
});

// 监听错误事件
proxy.on('error', (err, req, res) => {
  console.error('Proxy error:', er.........完整代码请登录后点击上方下载按钮下载查看

网友评论0