Shell怎么逐行读取文件

Linux中有很多方法逐行读取一个文件的方法,其中最常用的就是下面的方法,而且是效率最高,使用最多的方法。

为了给大家一个直观的感受,我们将通过生成一个大的文件的方式来检验各种方法的执行效率。

方法1:while循环中执行效率最高,最常用的方法。

代码如下:

function while_read_LINE_bottm(){
While read LINE
do
echo $LINE
done < $FILENAME
}

注释:我习惯把这种方式叫做read釜底抽薪,因为这种方式在结束的时候需要执行文件,就好像是执行完的时候再把文件读进去一样。

方法2 : 重定向法;管道法: cat $FILENAME | while read LINE

代码如下:

Function While_read_LINE(){
cat $FILENAME | while read LINE
do
echo $LINE
done
}

注释:我只所有把这种方式叫做管道法,相比大家应该可以看出来了吧。当遇见管道的时候管道左边的命令的输出会作为管道右边命令的输入然后被输入出来。

方法3: 文件描述符法

代码如下:

Function while_read_line_fd(){
Exec 3<&0
Exec 0<$FILENAME
While read LINE
Do
Echo $LINE
Exec 0<&<3
}

注释: 这种方法分2步骤,第一,通过将所有内容重定向到文件描述符3来关闭文件描述符0.为此我们用了语法Exec 3<&0 。第二部将输入文件放送到文件描述符0,即标准输入。

方法4 for 循环。

代码如下:

function for_in_file(){
For i in `cat $FILENAME`
do
echo $i
done
}

注释:这种方式是通过for循环的方式来读取文件的内容相比大家很熟悉了,这里不多说。对各个方法进行测试,看那方法的执行效率最高。

首先我们用脚本(脚本见附件)生成一个70000行的文件,文件位置在/scripts/bigfile。然后通过下面的脚本来测试各个方法的执行效率,脚本很简单,不再解释。

代码如下:

#!/bin/bash
FILENAME="$1"
TIMEFILE="/tmp/loopfile.out" > $TIMEFILE
SCRIPT=$(basename $0)
function usage(){
echo -e "\nUSAGE: $SCRIPT file \n"
exit 1
}
function while_read_bottm(){
while read LINE
do
echo $LINE
done < $FILENAME
}
function while_read_line(){
cat $FILENAME | while read LINE
do
echo $LINE
done
}
function while_read_line_fd(){
exec 3<&0
exec 0< $FILENAME
while read LINE
do
echo $LINE
done
exec 0<&3
}
function for_in_file(){
for i in `cat $FILENAME`
do
echo $i
done
}
if [ $# -lt 1 ] ; then
usage
fi
echo -e " \n starting file processing of each method\n"
echo -e "method 1:"
echo -e "function while_read_bottm"
time while_read_bottm >> $TIMEFILE
echo -e "\n"
echo -e "method 2:"
echo -e "function while_read_line "
time while_read_line >> $TIMEFILE
echo -e "\n"
echo -e "method 3:"
echo "function while_read_line_fd"
time while_read_line_fd >>$TIMEFILE
echo -e "\n"
echo -e "method 4:"
echo -e "function for_in_file"
time for_in_file >> $TIMEFILE

执行脚本后: [root@localhost shell]# ./while /scripts/bigfile
脚本输出内容:

代码如下:

method 1:
function while_read_bottm
real 0m5.689s
user 0m3.399s
sys 0m1.588s
method 2:
function while_read_line
real 0m11.612s
user 0m4.031s
sys 0m4.956s
method 3:
function while_read_line_fd
real 0m5.853s
user 0m3.536s
sys 0m1.469s
method 4:
function for_in_file
real 0m5.153s
user 0m3.335s
sys 0m1.593s

下面我们对各个方法按照速度进行排序。

代码如下:

real 0m5.153s method 4 (for 循环法)
real 0m5.689s method 1 (while 釜底抽薪法)
real 0m5.853s method 3 (标识符法)
real 0m11.612s method 2 (管道法)

由此可见在各个方法中,for语句效率最高,而在while循环中读写文件时,

代码如下:

while read LINE
do
echo $LINE
done < $FILENAME

方式执行效率最高。

(0)

相关推荐

  • shell下同时读取多个文件的方法

    shell下同时读取多个文件的方法

  • Python打开并读取TXT(Python读取文件内容)

    今天说说怎么在python中读取txt中的内容.今天爬虫抓到了一个新闻,放在D盘里对应日期的TXT文件中了,现在我们把他读取出来.每执行一次,f.readline(),就会读取下一行,我们只要做一个循 ...

  • 安装win7时出现读取文件错误/蓝屏或死机怎么办

    微软公司称,2014年,微软将取消Windows XP的所有技术支持。Windows 7将是Windows XP的继承者。另外,Windows体验指数也由Vista的5.9上升至7.9。 但很多朋友反 ...

  • iTunes错误提示不能读取文件iTunes Library.itl

    今天朋友遇到一个iTunes错误,提示:不能读取文件“iTunes Library.itl”,因为它是由更高版本的iTunes所创建的。 这是什么原因引起的呢?之前朋友安装过一个iTunes,结果发现 ...

  • iTunes不能读取文件"iTunes Library.itl"的原因和解决办法

    今天朋友遇到一个iTunes错误,提示:不能读取文件“iTunes Library.itl”,因为它是由更高版本的iTunes所创建的。 这是什么原因引起的呢?之前朋友安装过一个iTunes,结果发现 ...

  • win7系统为何出现读取文件错误

    win7系统黑屏是怎么回事? 微软公司称,2014年,微软将取消Windows XP的所有技术支持。Windows 7将是Windows XP的继承者。另外,Windows体验指数也由Vista的5. ...

  • FLASH导入声音时提示 读取文件时出现问题该怎么办?

    使用FLASH制作动画的时候,有时候我们想要导入一个声音但是老是提示我们,文件读取时出现问题,一个或多个文件没有导入.这时候怎么办呢?我想很多朋友也碰到过这个问题,这里小编根据自己经验总结下吧,希望可 ...

  • Java如何读取文件

    java中可以使用两个类来读取文件.BufferedReader和BufferedInputStream 1.使用 BufferedReader 01 在下面的实例中,我们将看到两种使用 Buffer ...

  • C#怎么读取文件

    用C#写代码能处理一定的内容后,相信大家一定想让其来处理文件.读取文件调用的是VS里面的类. 操作方法 01 首先我们在桌面建立个文档1.txt,名字简单方便读取.我们打开文件看看内容 02 基本规则 ...