Shell文本处理三剑客之sed

发表 分类

sed 是 stream editor 的缩写，流编辑器，主要用于对标准输出或文件进行处理。

语法：

  • stdout | sed [option] "pattern command"
  • sed [option] "pattern command" file1

常用选项（option）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
# -n 只打印静默模式匹配行，而不输出原行
# p 是打印命令
➜  sed '/hello/p' helloWorld.sh
#!/bin/bash

HELLO bash
echo "hello world"
echo "hello world"
➜  sed -n '/hello/p' helloWorld.sh
echo "hello world"

# -e 追加一组编辑命令
➜  sed -n -e '/hello/p' -e '/HELLO/p' helloWorld.sh
HELLO bash
echo "hello world"

# -f 把所有编辑命令保存在文件中，适用于复杂编辑操作
➜  cat edit.sed
/hello/p
➜  sed -n -f edit.sed hello.md

# -E （或 -r）支持扩展正则表达式
➜  sed -n -E '/hello|HELLO/p' helloWorld.sh
HELLO bash
echo "hello world"

# -i 直接修改源文件内容
# s 是替换命令
# 这里是吧 helloWorld.sh 文件中所有的 hello 改为 hello123
➜  sed -n -i 's/hello/hello123/g' helloWorld.sh

匹配模式（pattern）

匹配模式 说明
10command 第 10 行
10,20command 第 10 到 20 行
10,+5command 第 10 到 16 行
/pattern1/command 匹配 pattern1 对应的行
/pattern1/,/pattern2/command 从 pattern1 对应的行开始，到 pattern2 的行
10,/pattern1/command 从第 10 行开始，到 pattern1 的行
/pattern1/,10command 从 pattern1 对应的行开始，到第 10 行

常用编辑命令（command）

  • 查询
    • p 打印匹配的内容
  • 增加
    • a string 行后追加
    • i string 行前追加
    • r file 从外部文件读入，在匹配的行后追加
    • w newfile 将匹配的行写入外部文件
  • 删除
    • d 删除
  • 修改
    • s/old/new 替换行内第一个 old 为 new
    • s/old/new/g 行内所有 old 替换为 new
    • s/old/new/2g 从第 2 行开始到文件末尾的所有 old 替换为 new
    • s/old/new/ig 行内所有 old 替换为 new，忽略大小写

示例：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
# 删除以 sys 开头、并且以/sbin/nologin 结尾的行
➜  sed -i '/^sys.*\/sbin\/nologin$/d' passwd_bak

# 删除注释行、空行
sed -i '/[:blank:]*#/d;/^$/d' passwd_bak

# 查找在以 vagrant 开头的行，下一行追加内容
➜  sed -i '/^vagrant/a 这是追加的一行内容' passwd_bak

# 把所有的 root 替换为 root123
➜  sed -i 's/root/root123/ig' passwd_bak

# 在所有以 sys 开头、以 nologin 结尾的行，尾部追加 _666
# 其中 & 表示前面正则匹配到的内容
➜  sed -i 's/^sys.*nologin$/&_666/g' passwd_bak

# 把所有以 sys 开头、以 nologin_666 结尾的行 改为
# 以 SYS_ 开头、以 _777 结尾，其中 \1 表示前面括号中匹配的中间部分内容
➜  sed -i 's/^sys\(.*\)nologin_666$/SYS_\1_777/g' passwd_bak

# 把 1 ～ 10 行所有的 sys 改为 SYS
➜  sed -i '1,10s/sys/SYS/ig' passwd_bak

# 统计 my.cnf 文件中 mysqld 的子配置项数量
# sed 查找从 [mysqld] 到 下一个[.*] 之间的行
# grep -v 过滤注释、空行和 [.*] 行
# wc -l 统计最后的行数
➜  sed -n "/^\[mysqld\]$/,/^\[.*\]$/p" /etc/my.cnf | grep -Ev '^$|[#;]|^\[.*' | wc -l

注意：如果匹配模式中存在变量，则建议使用双引号，如 sed -i "s/$OLD_STR/$NEW_STR/g" passwd_bak