shell sed过滤器详解

古城微笑少年丶 2022-04-16 05:48 391阅读 0赞

**分享一下我老师大神的人工智能教程！零基础，通俗易懂！[http://blog.csdn.net/jiangjunshow][http_blog.csdn.net_jiangjunshow]**

**也欢迎大家转载本篇文章。分享知识，造福人民，实现我们中华民族伟大复兴！**

1. Sed简介  
sed 是一种在线编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有 改变，除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。  
2. 定址  
可以通过定址来定位你所希望编辑的行，该地址用数字构成，用逗号分隔的两个行数表示以这两行为起止的行的范围（包括行数表示的 那两行）。如1，3表示1，2，3行，美元符号($)表示最后一行。范围可以通过数据，正则表达式或者二者结合的方式确定。

3. Sed命令  
调用sed命令有两种形式：  
\*  
sed \[options\] 'command' file(s)  
\*  
sed \[options\] -f scriptfile file(s)  
a\\  
在当前行后面加入一行文本。  
b lable  
分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。  
c\\  
用新的文本改变本行的文本。  
d  
从模板块（Pattern space）位置删除行。  
D  
删除模板块的第一行。  
i\\  
在当前行上面插入文本。  
h  
拷贝模板块的内容到内存中的缓冲区。  
H  
追加模板块的内容到内存中的缓冲区  
g  
获得内存缓冲区的内容，并替代当前模板块中的文本。  
G  
获得内存缓冲区的内容，并追加到当前模板块文本的后面。  
l  
列表不能打印字符的清单。  
n  
读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。  
N  
追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。  
p  
打印模板块的行。  
P（大写）  
打印模板块的第一行。  
q  
退出Sed。  
r file  
从file中读行。  
t label  
if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。  
T label  
错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。  
w file  
写并追加模板块到file末尾。  
W file  
写并追加模板块的第一行到file末尾。  
!  
表示后面的命令对所有没有被选定的行发生作用。  
s/re/string  
用string替换正则表达式re。  
=  
打印当前行号码。  
\#  
把注释扩展到下一个换行符以前。  
以下的是替换标记  
\*  
g表示行内全面替换。  
\*  
p表示打印行。  
\*  
w表示把行写入一个文件。  
\*  
x表示互换模板块中的文本和缓冲区中的文本。  
\*  
y表示把一个字符翻译为另外的字符（但是不用于正则表达式）

（可以转换字母大小写，但tr更方便）

4. 选项  
\-e command, --expression=command  
允许多台编辑。  
\-h, --help  
打印帮助，并显示bug列表的地址。  
\-n, --quiet, --silent

取消默认输出。  
\-f, --filer=script-file  
引导sed脚本文件名。  
\-V, --version  
打印版本和版权信息。

5. 元字符集^  
锚定行的开始如：/^sed/匹配所有以sed开头的行。  
$  
锚定行的结束 如：/sed$/匹配所有以sed结尾的行。  
.  
匹配一个非换行符的字符 如：/s.d/匹配s后接一个任意字符，然后是d。  
\*  
匹配零或多个字符 如：，love这成\*\*love\*\*。  
\\<  
锚定单词的开始，如:/\\<love/匹配包含以love开头的单词的行。  
\\>  
锚定单词的结束，如/love\\>/匹配包含以love结尾的单词的行。  
x\\\{m\\\}  
重复字符x，m次，如：/0\\\{5\\\}/匹配包含5个o的行。  
x\\\{m,\\\}  
重复字符x,至少m次，如：/o\\\{5,\\\}/匹配至少有5个o的行。  
x\\\{m,n\\\}  
重复字符x，至少m次，不多于n次，如：/o\\\{5,10\\\}/匹配5--10个o的行。  
6. 实例  
**删除：d命令**  
\*  
$ sed '2d' example-----删除example文件的第二行。  
\*  
$ sed '2,$d' example-----删除example文件的第二行到末尾所有行。  
\*  
$ sed '$d' example-----删除example文件的最后一行。  
\*  
$ sed '/test/'d example-----删除example文件所有包含test的行。  
**替换：s命令**  
\*  
$ sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest。  
\*  
$ sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说，如果某一行开头的test被替换成mytest，就打印 它。  
\*  
$ sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost。  
\*  
$ sed -n 's/ loveable/\\1rs/p' example-----love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来。  
\*  
$ sed 's\#10\#100\#g' example-----不论什么字符，紧跟着s命令的都被认为是新的分隔符，所以，“\#”在这里是分隔符，代替了默认的“/”分隔符。表示把所有10替 换成100。  
**选定行的范围：逗号**  
\*  
$ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。  
\*  
$ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。  
\*  
$ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行，每行的末尾用字符串sed test替换。  
**多点编辑：e命令**  
\*  
$ sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。  
\*  
$ sed --expression='s/test/check/' --expression='/love/d' example-----一个比-e更好的命令是--expression。它能给sed表达式赋值。  
**从文件读入：r命令**  
\*  
$ sed '/test/r file' example-----file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面。  
**写入文件：w命令**  
\*  
$ sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。  
**追加命令：a命令**  
\*  
$ sed '/^test/a\\\\--->this is a example' example<-----'this is a example'被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠。  
**插入：i命令**  
$ sed '/test/i\\\\  
new line  
\-------------------------' example  
如果test被匹配，则把反斜杠后面的文本插入到匹配行的前面。  
**下一个：n命令**  
\*  
$ sed '/test/\{ n; s/aa/bb/; \}' example-----如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续。  
**变形：y命令**  
\*  
$ sed '1,10y/abcde/ABCDE/' example-----把1--10行内所有abcde转变为大写， 注意，正则表达式元字符不能使用这个 命令。  
**退出：q命令**  
\*  
$ sed '10q' example-----打印完第10行后，退出sed。  
**保持和获取：h命令和G命令**  
\*  
$ sed -e '/test/h' -e '$G example-----在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。  
**保持和互换：h命令和x命令**  
\*  
$ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。  
7. 脚本  
Sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末 尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以\#开头的行为注释行，且不能跨行。

===================

### linux tr 命令详解(转换字母大小写更方便) ###

1、关于tr  
通过使用 tr，您可以非常容易地实现 sed 的许多最基本功能。您可以将 tr 看作为 sed 的（极其）简化的变体：它可以用一个字符来替换另一个字符，或者可以完全除去一些字符。您也可以用它来除去重复字符。这就是所有 tr 所能够做的。  
tr用来从标准输入中通过替换或删除操作进行字符转换。tr主要用于删除文件中控制字符或进行字符转换。使用tr时要转换两个字符串：字符串1用于查询， 字符串2用于处理各种转换。tr刚执行时，字符串1中的字符被映射到字符串2中的字符，然后转换操作开始。  
带有最常用选项的tr命令格式为：  
tr -c -d -s \["string1\_to\_translate\_from"\] \["string2\_to\_translate\_to"\] < input-file  
这里：  
\-c 用字符串1中字符集的补集替换此字符集，要求字符集为ASCII。  
\-d 删除字符串1中所有输入字符。  
\-s 删除所有重复出现字符序列，只保留第一个；即将重复出现字符串压缩为一个字符串。  
input-file是转换文件名。虽然可以使用其他格式输入，但这种格式最常用。  
2、字符范围  
指定字符串1或字符串2的内容时，只能使用单字符或字符串范围或列表。  
\[a-z\] a-z内的字符组成的字符串。  
\[A-Z\] A-Z内的字符组成的字符串。  
\[0-9\] 数字串。  
\\octal 一个三位的八进制数，对应有效的ASCII字符。  
\[O\*n\] 表示字符O重复出现指定次数n。因此\[O\*2\]匹配OO的字符串。  
tr中特定控制字符的不同表达方式  
速记符含义八进制方式  
\\a Ctrl-G 铃声\\007  
\\b Ctrl-H 退格符\\010  
\\f Ctrl-L 走行换页\\014  
\\n Ctrl-J 新行\\012  
\\r Ctrl-M 回车\\015  
\\t Ctrl-I tab键\\011  
\\v Ctrl-X \\030  
3、应用例子  
（1）去除oops.txt里面的重复的小写字符  
tr -s "\[a-z\]"<oops.txt >result.txt  
（2）删除空行  
tr -s "\[\\012\]" < plan.txt 或 tr -s \["\\n"\] < plan.txt  
（3）有时需要删除文件中的^M，并代之以换行  
tr -s "\[\\015\]" "\[\\n\]" < file 或 tr -s "\[\\r\]" "\[\\n\]" < file  
**（4）大写到小写**  
 **cat a.txt |tr "\[a-z\]" "\[A-Z\]" >b.txt**  
（5）删除指定字符  
一个星期的日程表。任务是从其中删除所有数字，只保留日期。日期有大写，也有小写格式。因此需指定两个字符范围\[a-z\]和\[A-Z\]，命令tr -cs "\[a-z\]\[A-Z\]" "\[\\012\*\]" 将文件每行所有不包含在\[a-z\]或\[A-Z\]（所有希腊字母）的字符串放在字符串1中并转换为一新行。-s选项表明压缩所有新行， -c表明保留所有字母不动。原文件如下，后跟tr命令：  
tr -cs "\[a-z\]\[A-Z\]" "\[\\012\*\]" <diary.txt  
（6）转换控制字符  
tr的第一个功能就是转换控制字符，特别是从dos向UNIX下载文件时，忘记设置ftp关于回车换行转换的选项时更是如此。cat -v filename 显示控制字符。  
cat -v stat.txt  
box aa^^^^^12^M  
apple bbas^^^^23^M  
^Z  
猜想‘^ ^ ^ ^ ^ ^’是tab键。每一行以Ctrl-M结尾，文件结尾Ctrl-Z，以下是改动方法。  
使用-s选项，查看ASCII表。^的八进制代码是136，^M是015，tab键是011，^Z是032 ,下面将按步骤完成最终功能。  
用tab键替换^ ^ ^ ^ ^ ^，命令为"\\136" "\[\\011\*\]"。将结果重定向到临时工作文件stat.tmp  
tr -s "\[\\136\]" "\[\\011\*\]" <stat.txt >stat.tmp  
用新行替换每行末尾的^M，并用\\n去除^Z，输入要来自于临时工作文件stat.tmp。  
tr -s "\[\\015\]\[\\032\]" "\\n" <stat.tmp  
要删除所有的tab键，代之以空格，使用命令  
tr -s "\[\\011\]" "\[\\040\*\]" <input.file  
（7）替换passwd文件中所有冒号，代之以tab键，可以增加可读性  
tr -s "\[:\]" "\[\\011\]" < /etc/passwd 或 tr -s "\[:\]" "\[\\t\]" < /etc/passwd  
（8）使路径具有可读性  
如果用 echo $PATH 或者 echo $LD\_LIBRARY\_PATH 等类似的命令来显示路径信息的话，我们看到的将会是一大堆用冒号连接在一起的路径， tr命令可以把这些冒号转换为回车，这样，这些路径就具有很好的可读性了  
echo $PATH | tr ":" "\\n"  
（9）可以在vi内使用所有这些命令！只要记住：在tr命令前要加上您希望处理的行范围和感叹号 （！），如 1,$!tr -d '\\t'（美元符号表示最后一行）。  
（10）另外，当有人给您发送了一个在 Mac OS 或 DOS/Windows 机器上创建的文本文件时，您会发现tr非常有用。  
如果没有将文件保存为使用 UNIX 换行符来表示行结束这种格式，则需要将这样的文件转换成本机 UNIX 格式，否则一些命令实用程序不会正确地处理这些文件。Mac OS 的行尾以回车字符(\\r)结束，许多文本处理工具将这样的文件作为一行来处理。为了纠正这个问题，可以用下列技巧：  
Mac -> UNIX：tr "\\r" "\\n"<macfile > unixfile  
UNIX -> Mac：tr "\\n" "\\r"<unixfile > macfile  
Microsoft DOS/Windows 约定，文本的每行以回车字符(\\r)并后跟换行符(\\n)结束。为了纠正这个问题，可以使用下列命令：  
DOS -> UNIX：tr -d "\\r"<dosfile > unixfile  
UNIX -> DOS：在这种情况下，需要用awk，因为tr不能插入两个字符来替换一个字符。要使用的 awk 命令为 awk '\{ print $0"\\r" \}'<unixfile > dosfile  
注：都可以用sed 来完成。

#### 给我老师的人工智能教程打call！[http://blog.csdn.net/jiangjunshow][http_blog.csdn.net_jiangjunshow] ####

![这里写图片描述][SouthEast]

[http_blog.csdn.net_jiangjunshow]: https://blog.csdn.net/jiangjunshow/article/details/77338485
[SouthEast]: /images/20220416/c15e2e37894e4615bbd7f9d60b8cbfa7.png