您当前的位置:首页 > 电脑百科 > 软件技术 > 操作系统 > linux百科

Linux Shell三剑客之awk,功能强大的文本处理工具

时间:2023-01-12 15:08:53  来源:  作者:蒲公英互联

awk命令初学时没有主要思路,不清楚具体功能,很容易沉迷在指令参数的海洋里,而且,awk还支持循环、判断,相当于学习一门小型编程语言,学习难度比较高。

对于大多数人来说,理解能力都差不多,按照本文案例流程,在自己的linux上敲一遍,和结果对比,检查是否一致,就很容易理解了。

用手学Linux

不求面面俱到,只求初步掌握,熟练后再搭配其他指令灵活运用。

awk简介

awk是Linux Shell中一种非常强大的文本处理工具,数据可以来自标准输入或者管道

awk不仅仅是一个命令,更是一门编程语言,支持选择结构、循环结构、以及丰富的逻辑运算符,便于进行复杂的文本处理;


 

awk按照行处理文本,逐行扫描,默认从第一行到最后一行,找到匹配到特定行,并进行相关操作;

awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人,分别是Alfred Aho、Brian Kernighan、Peter Weinberger。

语法格式:

awk 选项 'commands' 文件名常用选项:-F 定义字段分割符号,默认的分隔符是空格-v 定义变量并赋值


 

-F: 是以:将源文件分隔

/root/匹配源文件中包括root的行,打印出文件名,如果不进行匹配,则源文件有多少行就打印出多少行文件名

$0打印出匹配到行的全部内容

awk内置变量

变量

变量说明

$0

当前处理行的所有记录

1,1,2,3...3...n

文件中每行以间隔符号分割的不同字段

NF

当前记录的字段数(列数)

$NF

最后一列

NR

行号

FS

定义间隔符

OFS

定义输出字段分隔符,默认空格

RS

输入记录分割符,默认换行

ORS

输出记录分割符,默认换行

FILENAME

当前输入的文件名


 

打印列数、最后一列、第1列、第2列、倒数第二列。


 

打印第1行到第5行。


 

用分号;分隔开两部分匹配规则,可以理解为或的关系,前面是匹配1-5行,后面是匹配以root开头的行,是前3行。一共输出8行。

格式化输入printf


 

%s字符串类型占位符,默认右对齐,前面加负号-左对齐。

awk中BEGIN...END使用

BEGIN:表示在程序开始前执行

END:表示所有文件处理完后执行

用法:'BEGIN{开始处理之前};{处理中};END{处理结束后}'


 

awk -F: 'BEGIN{print "NAMEtDIRtSHELLn***************************************"}{printf "%-10s %-10s %-10sn",$1,$(NF-1),$NF}END{print "****************************************"}' input.txt间隔符


 

BEGIN{FS=":"}相当于使用选项-F:


 

OFS输出间隔为两个制表符t。


 

输入内容以@分隔。


 

输出内容指定以"++++"分隔。

awk工作原理

  1. awk使用一行作为输入,并将这一行赋给内部变量$0,每一行也可称为一个记录,以换行符(RS)结束
  2. 每行被间隔符(默认为空格或制表符)分解成字段,每个字段存储在已编号的变量中,从$1开始
  3. 问:awk如何知道用空格来分隔字段的呢?
  4. 答:因为有一个内部变量FS来确定字段分隔符。初始时,FS赋为空格。
  5. awk使用print函数打印字段,打印出来的字段会以空格分隔,比如1,1,3之间有一个逗号,但是逗号比较特殊,它映射为另一个内部变量,称为输出字段分隔符OFS,OFS默认为空格。
  6. awk处理完一行后,将从文件中获取另一行,并将其存储在$0中,覆盖原来的内容,然后将新的字符串分隔成字段并进行处理,该过程将持续到所有行处理完毕。
awk变量定义

 


 

调用awk中变量不需要加$。

逻辑运算符


 

使用或||运算符打印第1行和第4行。


 

匹配1-4行或者以hioiei开头的行。

流程控制

awk的流程控制和一般编程语言中的逻辑一样,包括选择结构和循环结构,用于处理复杂的命令逻辑。

if条件判断单分支结构:{if(表达式){语句1;语句2;...}}


 

双分支结构:{if(表达式){语句;语句;...}else{语句;语句;...}}


 

多分支结构:{ if(表达式1){语句;语句;...}else if(表达式2){语句;语句;...}else if(表达式3){语句;语句;...}else{语句;语句;...}}


 

循环结构


 

while循环打印1-10


 

for循环打印1-10并求和,结果55。


 

break跳出整个循环,continue跳出本次循环,继续进入下一次循环,由于本次结束后,i并没有加1,因此程序一直卡住。

思考,如何调整循环体的顺序?使得跳出本次循环后,进入下一次循环。

算术运算


 

awk按照浮点数进行数学运算。

脚本运行


 

#!/usr/bin/awk -fBEGIN{FS=":"}NR=1,NR=3{print $1"t"$NF}

运行:

1.awk -f awk.sh input.txt2.awk -f awk.sh input.txt

 

  • 什么是Linux系统?我们是否要用Linux
  • 学习Linux命令行,用手就行!
  • Linux神之编辑器VIM,史上最强编辑器!
  • Linux系统虚拟机和云服务配置,快速搭建学习环境
  • Linux系统虚拟机和云服务配置,快速搭建学习环境
  • Linux tmux终端复用器,远程指令再也不会中断了!
  • 远程登录Linux服务器,SSH加密传输协议,一种更安全的协议
  • Linux如何新建用户,支持多用户共同使用的操作系统
  • 什么是C++编程,经久不衰的老牌编程语言
  • 什么是C++变量,就是存储数据的盒子

 



Tags:Linux Shell   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
如何入门 Linux Shell 脚本编写
各位读者,我们将在本文中介绍如何在 Linux 或 UNIX 系统中入门 Shell 脚本编写。什么是 Shell 呢?Shell(交互界面)是类 UNIX/Linux 操作系统中的一个解释器。它将用户输入的命令...【详细内容】
2023-05-22  Search: Linux Shell  点击:(352)  评论:(0)  加入收藏
Linux Shell三剑客之awk,功能强大的文本处理工具
awk命令初学时没有主要思路,不清楚具体功能,很容易沉迷在指令参数的海洋里,而且,awk还支持循环、判断,相当于学习一门小型编程语言,学习难度比较高。对于大多数人来说,理解能力都差...【详细内容】
2023-01-12  Search: Linux Shell  点击:(293)  评论:(0)  加入收藏
使用 GNU bc 在 Linux Shell 中进行数学运算
在 shell 中使用 bc 更好地做算数,它是一种用于高级计算的数学语言。• 来源:linux.cn • 作者:Seth Kenlon • 译者:geekpi •(本文字数:1955,阅读时长大约:2 分...【详细内容】
2020-09-29  Search: Linux Shell  点击:(382)  评论:(0)  加入收藏
带你玩转 Linux Shellcode
本篇主要是以x64系统为例对系统调用中一些功能性函数的解读和实际运用。目前网络上流传的通用shellcode,均使用系统调用实现,在记录整个学习过程的同时分享给大家一起学习探讨...【详细内容】
2020-09-02  Search: Linux Shell  点击:(273)  评论:(0)  加入收藏
Linux Shell中单引号、双引号、反引号的解释
1、单引号(' ')单引号所见即所得,直接显示单引号里的内容。即单引号里的任何字符都会原样输出,单引号字符串中的变量是无效的。比如下面的例子,单引号所见即所得。 2、...【详细内容】
2020-08-03  Search: Linux Shell  点击:(655)  评论:(0)  加入收藏
Linux Shell工具之 sed/awk
分享下处理数据分析时,linux shell 两个比较基础的工具sed 指令非交互式的字符流编辑器,支持对多文件多行的管道处理sed [option] 'command' f.txtsed -n '2,3p...【详细内容】
2020-07-24  Search: Linux Shell  点击:(374)  评论:(0)  加入收藏
12个优秀的免费开源Linux Shell
Linux为高级用户提供了一些最好的开源shell,我们冒昧地为Linux用户列出了一些最好的免费开源shell。请仔细阅读本文,找出最适合您的Linux shell。自从70年代Unix系统诞生以来,...【详细内容】
2020-05-04  Search: Linux Shell  点击:(320)  评论:(0)  加入收藏
介绍12个优秀的免费开源Linux Shell
Linux为高级用户提供了一些最好的开源shell,我们冒昧地为Linux用户列出了一些最好的免费开源shell。请仔细阅读本文,找出最适合您的Linux shell。自从70年代Unix系统诞生以来,...【详细内容】
2020-05-04  Search: Linux Shell  点击:(358)  评论:(0)  加入收藏
Linux shell 逻辑运算符、逻辑表达式详解
转自 | talkwithtrend作者 | db2haodbshell的逻辑运算符 涉及有以下几种类型,因此只要适当选择,可以解决我们很多复杂的判断,达到事半功倍效果。一、逻辑运算符1、逻辑卷标...【详细内容】
2019-12-17  Search: Linux Shell  点击:(447)  评论:(0)  加入收藏
获取有关 Linux shell 内置命令的帮助
Linux 内置命令属于用户 shell 的一部分,本文将告诉你如何识别它们并获取使用它们的帮助。-- Sandra Henry-stocker(作者)Linux 内置命令是内置于 shell 中的命令,很像内置于墙...【详细内容】
2019-12-06  Search: Linux Shell  点击:(475)  评论:(0)  加入收藏
▌简易百科推荐
微软 Win11 Linux 子系统(WSL)发布 2.2.2 版本
IT之家 4 月 8 日消息,微软近日更新 Windows Subsystem for Linux(WSL),最新 2.2.2 版本中带来了诸多改进,重点更新了 nft 规则,可以让 IPv6 流量通过 Linux 容器。图源: dev.to,AI...【详细内容】
2024-04-08    IT之家  Tags:Linux   点击:(8)  评论:(0)  加入收藏
从原理到实践:深入探索Linux安全机制
Linux 是一种开源的类Unix操作系统内核,由Linus Torvalds在1991年首次发布,其后又衍生出许多不同的发行版(如Ubuntu、Debian、CentOS等)。前言本文将从用户和权限管理、文件系统...【详细内容】
2024-03-27  凡夫编程  微信公众号  Tags:Linux安全   点击:(23)  评论:(0)  加入收藏
在Linux系统中,如何处理内存管理和优化的问题?
本文对 Linux 内存管理和优化的一些高级技巧的详细介绍,通过高级的内存管理技巧,可以帮助系统管理员和开发人员更好地优化 Linux 系统的内存使用情况,提高系统性能和稳定性。在...【详细内容】
2024-03-26  编程技术汇  微信公众号  Tags:Linux   点击:(16)  评论:(0)  加入收藏
Linux 6.9-rc1 内核发布:AMD P-State 首选核心、BH 工作队列
IT之家 3 月 25 日消息,Linus Torvalds 宣布,Linux 6.9 内核的首个 RC(候选发布)版 Linux 6.9-rc1 发布。▲ Linux 6.9-rc1Linus 表示,Linux 内核 6.9 看起来是一个“相当正常”...【详细内容】
2024-03-25    IT之家  Tags:Linux   点击:(15)  评论:(0)  加入收藏
轻松实现Centos系统的软件包安装管理:yum指令实战详解
yum 是一种用于在 CentOS、Red Hat Enterprise Linux (RHEL) 等基于 RPM 的 Linux 发行版上安装、更新和管理软件包的命令行工具。它可以自动解决软件包依赖关系,自动下载并...【详细内容】
2024-02-27  凡夫贬夫  微信公众号  Tags:Centos   点击:(59)  评论:(0)  加入收藏
Win + Ubuntu 缝合怪:第三方开发者推出“Wubuntu”Linux 发行版
IT之家 2 月 26 日消息,一位第三方开发者推出了一款名为“Wubuntu”的缝合怪 Linux 发行版,系统本身基于 Ubuntu,但界面为微软 Windows 11 风格,甚至存在微软 Windows 徽标。据...【详细内容】
2024-02-27    IT之家  Tags:Ubuntu   点击:(53)  评论:(0)  加入收藏
Linux中磁盘和文件系统工作原理解析
在Linux系统中,一切皆文件的概念意味着所有的资源,包括普通文件、目录以及设备文件等,都以文件的形式存在。这种统一的文件系统管理方式使得Linux系统具有高度的灵活性和可扩展...【详细内容】
2024-02-20  王建立    Tags:Linux   点击:(58)  评论:(0)  加入收藏
Linux子系统概览
inux操作系统是一个模块化的系统,由多个子系统组成。这些子系统协同工作,使Linux能够执行各种任务。了解Linux的子系统有助于更好地理解整个操作系统的运作机制。以下是Linux...【详细内容】
2024-02-01    简易百科  Tags:Linux   点击:(84)  评论:(0)  加入收藏
Linux内核:系统之魂与交互之源
内核,作为任何基于Linux的操作系统的心脏,扮演着至关重要的角色。它不仅是计算机系统软件与硬件之间的桥梁,更是确保系统稳定、高效运行的关键。内核提供了一系列核心功能,为上...【详细内容】
2024-02-01  松鼠宝贝    Tags:Linux内核   点击:(72)  评论:(0)  加入收藏
如何确保Linux进程稳定与持久
在Linux系统中,进程的稳定性与持久性对于维持系统的持续运行至关重要。然而,由于各种原因,进程可能会面临崩溃或系统重启的情况。为了确保关键进程能够持续运行,我们必须采取一...【详细内容】
2024-01-19  松鼠宝贝    Tags:Linux进程   点击:(90)  评论:(0)  加入收藏
相关文章
    无相关信息
站内最新
站内热门
站内头条