怎样创建scrapy项目,怎样简单运行scrapy

scrapy是一种爬虫框架,今天小编我就来跟大家分享一下怎样创建scrapy项目以及运行scrapy项目的方法,这样让各位学习爬虫的小伙伴更好的练习
scrapy爬虫。

操作方法

  • 01

    准备工作当然是在vscode中进入命令行了,如图所示,小编我在vscode中进入了一个文件夹。

  • 02

    然后使用命令创建scrapy项目,当然,你要先搭建好scrapy框架,这样才可以使用scrapy命令哦,jy可变,代表scrapy项目名称。

  • 03

    之后,scrapy项目便会创建好了,这个spiders文件夹就是用来存放爬虫文件的哦。

  • 04

    而scrapy里面的这个settings文件可以设置User-Agent,IP以及爬取时间等等。

  • 05

    items用来编写字段的,类似数据库的字段哟。pipelines则是处理爬取好的文件的。

  • 06

    接着进入spiders文件夹,开始用命令创建爬虫文件。

  • 07

    如图,用这个命令便可以创建爬虫文件了,后面要指定一下网址哦,不指定会报错的呀。

  • 08

    然后在这里就多了一个myjy(创建的),然后编写爬取规则就可以了。

  • 09

    如图,里面有自动生成的内容,name不要改,parse函数也不要改,不然报错。在parse里面写解析规则即可。

  • 10

    运行爬虫文件可以用这个命令,myjy就是爬虫名称,跟name里面的一致哟。

(0)

相关推荐

  • pycharm怎么新建一个scrapy项目

    scrapy是一个用python编写的爬虫系统,通过scrapy的二次开发,您几乎可以爬取世界上90%以上的网站.下面我简单介绍下scrapy系统的安装与工程的创建. scrapy安装 01 由于sc ...

  • Intellij IDEA如何创建web项目

    如果我们初次使用idea进行web项目开发,那么我们会发现创建出来的web项目的目录结构和我们预期的不一样.接下来,我来简单给大家讲解下Intellij IDEA如何创建web项目. 操作方法 01 ...

  • visual studio 2010怎么创建c项目?

    本文旨在介绍Microsoft Visual Studio 2010如何创建C项目,并编写一个简单的测试程序,为C的初级开发者提供帮助. 1.首先,打开Microsoft Visual Studio ...

  • eclipse创建python项目

    eclipse安装Python插件之后,主要是为了方便Python代码就可以再Eclipse进行代码脚本,使用Eclipse开发Python脚本,主要写代码会有提示功能,提高写代码效率,运行代码方便进 ...

  • myeclipse创建web项目

    对于开发新手来说创建web项目通常无从下手,因为菜单里的选项有很多,通常不知道该点哪一个,在哪一步又该注意些什么,今天就写一个myeclipse创建web项目的,总的来说还是很简单的,下面就手把手的教 ...

  • 图解使用vue-cli创建Vuejs项目

    本篇将和大家介绍使用vue-cli创建Vuejs项目的步骤,希望对大家的工作和学习有所帮助! 操作方法 01 首先从官方网站下载安装Node.js,建议使用6.x版本,同时也会一并安装npm工具,np ...

  • 如何使用最新版本的PyCharm创建Python项目

    PyCharm可以用来创建python项目,可以直接用来编辑python代码,并且有很好的提示功能,比如导入包时.编写代码时等.下面利用一个实例说明如何使用PyCharm创建python项目,操作如下 ...

  • 会声会影创建新项目的快捷键是什么

    会声会影创建新项目的快捷键是Ctrl+N。

  • eclipse项目重命名运行后名字会还原怎么办 eclipse改名失败解决方法

    eclipse是我们常用的编程工具,为了开发方便,我们会把项目改成自己习惯的名字,那么eclipse项目重命名运行后名字会还原怎么办?下面小编带来eclipse改名失败解决方法,希望对大家有所帮助. ...