nodejs流式反向代理ollama api示例代码
代码语言:nodejs
所属分类:其他
代码描述:nodejs流式反向代理ollama api示例代码
代码标签: nodejs 流式 反向 代理 ollama api 示例 代码
下面为部分代码预览,完整代码请点击下载或在bfwstudio webide中打开
const http = require('http');
const url = require('url');
const fs = require('fs');
const path = require('path');
const { exec, spawn } = require('child_process');
const httpProxy = require('http-proxy');
const os = require('os');
const axios = require('axios');
const { setTimeout } = require('timers');
// 创建一个 Map 来存储正在进行的请求
const activeRequests = new Map();
// 创建反向代理服务器
const proxy = httpProxy.createProxyServer({ ws: true });
// 监听 proxyReq 事件来获取后端请求对象
proxy.on('proxyReq', (proxyReq, req, res) => {
//proxyReq.setHeader('Host', 'localhost:11434');
activeRequests.set(req, proxyReq);
});
// 监听 proxyRes 事件来清理已完成的请求
proxy.on('proxyRes', (proxyRes, req, res) => {
activeRequests.delete(req);
});
// 监听错误事件
proxy.on('error', (err, req, res) => {
console.error('Proxy error:', er.........完整代码请登录后点击上方下载按钮下载查看















网友评论0