商务服务
python按关键词爬取专利,并保存为EXCEL文件
2024-11-05 05:47

#从专利网www.patent9.com爬取按关键词搜索的专利,并保存摘要至excel文件,方便对比分析

python按关键词爬取专利,并保存为EXCEL文件

#需要chrome浏览器,也可按自己需求改写为其它浏览器

#运行python 3.9以上

# Author: trampler
#只能搜索200条

#插入库
import pandas as pd
import numpy as np

import openpyxl
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import time
from bs4 import BeautifulSoup

import urllib.parse

#程序主体

keyword = '算法' #输入搜索关键词
wd = urllib.parse.quote(keyword.encode('utf-8'))
inputkw = urllib.parse.quote(wd.encode('gb2312'))

#要求有Chrome浏览器
driver = webdriver.Chrome()

driver.get('https://www.patent9.com')
wait = WebDriverWait(driver, 1)
searchtext=keyword
src=r'. est1.xlsx'
dsc=r'.dsc.xlsx'
x1=pd.ExcelFile(src)
algorithm=pd.read_excel(x1,x1.sheet_names[0],index_col=0,header=0,usecols=[0,1,2,3,4,5]) #Sheet5, 第一列索引,第一行索引,提取1,2,3,4,5,6列数据

time.sleep(1)

input_add = driver.find_element(By.XPATH,"//input[@name='k']") # 搜索框
input_add.clear()
input_add.send_keys(searchtext)
button = driver.find_element(By.XPATH,"//input[@type='submit']")
button.click()
source = driver.page_source
soup = BeautifulSoup(source, 'lxml')

total1 = str(soup.select("#form1 > span.direct.current > a")[0].text) # 获取申请发明总数
total2 = str(soup.select("#form1 > span:nth-child(6) > a")[0].text) # 获取申请实用新型总数
total3 = str(soup.select("#form1 > span:nth-child(7) > a")[0].text) # 获取申请外观专利总数

count1=0 
count2=10 #每页10个数据
all_list = []
all_list.append(["名称", "申请号", "申请人", "申请日", "摘要"])

idx = [id for id in range(1,200)]
df = pd.Dataframe(algorithm, index=idx)

with pd.ExcelWriter(dsc) as writer: #保存清洗后数据
    for i in range(1,2):    #下载页数
        url=u'https://www.patent9.com/search.aspx?k={inputkw}&c=PatentName&t=fmzl&sort=0&f={total1}&s={total2}&w={total3}&p={i}'    
        driver.get(url.format(inputkw=inputkw,total1=total1,total2=total2,total3=total3,i=i))
        wait = WebDriverWait(driver, 1)
        if i==math.ceil(int(total1)/10):
            count2=int(total1)-math.floor(int(total1)/10)*10
        for j in range(count2):
            j10=10+j*7 #每个数据相差7个div
            j11=j10+1
            j12=j10+2
            j14=j10+4
        
            patent_name = soup.select("#form1 > div:nth-child({}) > a span".format(j10))[0].text # 获取申请名称
            patent_no = soup.select("#form1 > div:nth-child({}) > a".format(j11))[0].text # 获取申请号
            patent_form = soup.select("#form1 > div:nth-child({}) > a".format(j12))[0].text # 获取申请人
            patent_abstract = soup.select("#form1 > div:nth-child({})".format(j14))[0].text # 获取申请摘要

            patent_date = soup.select("#form1 > div:nth-child({})".format(j12))[0].text
            patent_date=patent_date.replace('  ',':').split(':')[2]  # 获取申请日期
            time.sleep(0.5)
            df.loc[(i-1)*10+j,'名称']=patent_name
            df.loc[(i-1)*10+j,'申请号']=patent_no
            df.loc[(i-1)*10+j,'申请人']=patent_form
            df.loc[(i-1)*10+j,'申请日']=patent_date
            df.loc[(i-1)*10+j,'摘要']=patent_abstract    

    以上就是本篇文章【python按关键词爬取专利,并保存为EXCEL文件】的全部内容了,欢迎阅览 ! 文章地址:http://dfvalve.xrbh.cn/news/9500.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 迅博思语资讯移动站 http://keant.xrbh.cn/ , 查看更多   
最新新闻
云南网络营销软件哪个好?权威推荐助您快速选择
在数字化时代,网络营销软件成为了许多企业实现营销目标的重要工具。然而,市面上网络营销软件琳琅满目,选择一个适合自己的并不
宫崎骏的时代结束了
在《你想活出怎样的人生》之前,宫崎骏一直是著名的退休诈骗犯。七次退休又七次复出,年过八旬,创作欲还是旺盛到令人害怕。然而
个人大数据信用查询平台哪个更准确一些?蘑菇画像个人大数据信用报告查询平台更好用
个人大数据信用查询平台哪个更准确一些?蘑菇画像个人大数据信用报告查询平台更好用,个人大数据信用查询平台市面上还是比较多的
小红书关键词热度查询!国风大潮下,品牌怎么玩出花样、玩出水平?
国风,是当下年轻人钟爱的潮流。汉服穿搭、文物手办、国潮仿妆……频频出圈。“民族的就是世界的”,国风的影响力可谓深远,一说
app推广接单发布平台哪个好?怎么领取任务赚钱?
最近几年,随着互联网的快速发展,利用网络兼职的赚钱方式也呈现越来越火,非常受大众欢迎的趋势。而且其种类也非常多:微商、社
【可打印】文学常识常考100题汇总,初中生练一练!(部编版初中语文)
关注本公众号,私信发送数字:2493,领取电子打印版文学常识1、成语“万事俱备,只欠东风”是根据《三国演义》________ (战役)
“迎旅发大会 游美丽望城”望城首届文旅短视频大赛,最高3万奖励等你来拿!
湘江水浩浩奔腾,流淌沧桑巨变。铜官窑静穆肃然,在这里诉说着望城的厚重历史,流传着“君生我未生,我生君已老”凄美爱情故事;落日
mysql导入大txt文件怎么打开_mysql怎么导入txt文件?
有时候我们在使用mysql数据库的时候,想导入txt文本文档,要怎么操作呢?下面本篇文章就来给大家介绍一下方法
寸头抖音短视频教程_人开始衰老的迹象是什么
岁月不饶人,我才50出头,可是许多衰老迹象已经越来越明显,惹得中医闺蜜笑话这样的我。1、觉得右后背和肩膀疼,出现“五十肩”
什么是网站页脚:以及最佳页脚设计示例
主体内容外,网站还包括页眉和页脚,用于帮助访问者的特定目的。由于我们认为网站页脚设计同样重要,我们整理了10个最佳免费网站
本企业新闻

点击拨打: