python抓取百度baidu搜索引擎结果返回干净的markdown'正文文本代码
代码语言:python
所属分类:web系统
代码描述:python抓取百度baidu搜索引擎结果返回干净的markdown'正文文本代码,利用selenium爬取搜索结果,然后利用jina提取百度的每个搜索链接,转换成干净的markdown正文,这个可作为本地ai搜索的一个api接口使用。
代码标签: python 抓取 百度 baidu 搜索 引擎 结果 返回 干净 markdown' 正文 文本
下面为部分代码预览,完整代码请点击下载或在bfwstudio webide中打开
#!/usr/local/python3/bin/python3
# -*- coding: utf-8 -*
from selenium import webdriver
from selenium.webdriver.common.keys import Keys
from time import sleep
from bs4 import BeautifulSoup
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import requests
def fetch_json_from_baidu_link(baidu_link):
# 发送请求并获取重定向后的URL
response = requests.get(baidu_link, allow_redirects=True)
# 获取重定向后的真实URL
real_url = "https://r.jina.ai/" + respon.........完整代码请登录后点击上方下载按钮下载查看
网友评论0