Shell 腳本是一種強大的工具,可以在各種領域中用于提高工作效率、簡化任務和自動化常見工作流程。無論是系統管理、數據處理、任務自動化還是快速原型開發,Shell 腳本都是一種重要的編程工具。下面分享幾個超級實用的 Shell 腳本。
1.使用INOTIFY+RSYNC自動實時同步數據
代碼執行:bash inotify_rsyncs.sh
inotify_rsyncs.sh腳本內容如下:
#!/bin/bash
# Author: Harry
# chkconfig: - 85 15
# description: It is used to serve
# 監測/data路徑下的文件變化,排除Temp目錄
INOTIFY_CMD="inotifywAIt -mrq -e modify,create,move,delete /data/ --exclude=Temp"
# 同步數據
RSYNC_CMD1="rsync -avz /data/ --exclude-from=/etc/rc.d/init.d/exclude.txt harry@10.14.2.102:/data/ --delete"
RSYNC_CMD2="rsync -avz /data/ --exclude-from=/etc/rc.d/init.d/exclude.txt harry@10.14.2.103:/data/ --delete"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
if [ $(pgrep rsync | wc -l) -le 0 ] ; then
$RSYNC_CMD1&&$RSYNC_CMD2 >> rsync.log
fi
done
2.MySQL自動備份以及刪除備份腳本
代碼執行:bash db_backup.sh
db_backup.sh腳本內容如下:
#!/bin/bash
# Author: Harry
# Description: Database backup script
dbback(){
# 定義變量
db_user="ma_prd"
db_passwd="<password>"
db_path="/data/bakmysql"
db_file="backuprecord"
db_date=`date +%Y%m%d_%H:%M:%S`
# 判斷路徑是否存在
[ -d $db_path ] || exit 2
# 使用mysqldump備份數據,并用gzip進行壓縮
mysqldump -u$db_user -p$db_passwd --single-transaction ma | gzip > $db_path/${db_date}_ma.sql.gz
REVAL=$?
if [ $REVAL -eq 0 ]
then
echo "$db_date ma db is backups successful" >>$db_path/$db_file
else
echo "$db_date ma db is backups failed" >>$db_path/$db_file
fi
}
#刪除超過7天的備份數據
delbak(){
local db_path="/data/bakmysql"
find $db_path -type f -name "*ma*.gz" -mtime +7 -exec rm -rf {} ;
}
dbback
delbak
3.使用curl檢測網站可用性腳本
代碼執行:web_check_with_curl.sh
web_check_with_curl腳本內容如下:
#!/usr/bin/env bash
# Author: Harry
# Version:1.1
# Description: Web check with curl
#定義顏色
red='e[0;31m'
RED='e[1;31m'
green='e[0;32m'
GREEN='e[1;32m'
blue='e[0;34m'
BLUE='e[1;34m'
cyan='e[0;36m'
CYAN='e[1;36m'
NC='e[0m'
date=`date +%Y-%m-%d' '%H:%M:%S`
# 定義User Agent
ua="Mozilla/5.0 (windows NT 10.0; WOW64) AppleWebKit/537.36 (Khtml, like Gecko) Chrome/62.0.3202.9 Safari/537.36"
pass_count=0
fail_count=0
# 需要檢測的url
urls=(
"http://www.xxx.com"
)
function request(){
status=$(curl -sk -o /dev/null --retry 1 --connect-timeout 1 -w '%{http_code}' --user-agent "$ua" $1)
if [ $status -eq '200' -o $status -eq '301'
-o $status -eq '302' ]; then
echo -e "[${GREEN} Passed ${NC}] => $1"
((pass_count ++))
else
echo -e "[${RED} Failed ${NC}] => $1"
((fail_count ++))
fi
}
function main(){
echo "Start checking ..."
for((i=0;i<${#urls[*]};i++))
do
request ${urls[i]};
done
# 輸出檢測通過和失敗的記錄
echo -e "======================== Summary ======================== "
echo -e "Total: ${cyan} $((pass_count + fail_count))${NC} Passed: ${green}${pass_count}${NC} Failed: ${red}${fail_count}${NC} Time: $date"
}
main $*
4.檢測并封禁異常IP地址的腳本
代碼執行:bash ban_ip.sh
ban_ip.sh腳本內容如下:
#!/bin/bash
# 獲取當前日期和時間的格式化字符串
DATE=$(date +%d/%b/%Y:%H:%M)
# 日志文件路徑和封禁記錄文件路徑
LOG_FILE="/usr/local/Nginx/logs/access.log"
BANNED_IP_LOG="/usr/local/nginx/logs/banned_ip.log"
# 獲取異常IP地址,使用tail命令讀取日志文件的最后10000行,并使用grep命令篩選出包含當前日期和時間的日志記錄
ABNORMAL_IP=$(tail -n 10000 "$LOG_FILE" | grep "$DATE" | awk '{a[$1]++}END{for(i in a) if(a[i]>10) print i}')
# 封禁異常IP地址
declare -a IP_LIST
for IP in $ABNORMAL_IP; do
if ! iptables -vnL | grep -q "$IP"; then
iptables -I INPUT -s "$IP" -j DROP
echo "$(date +'%F_%T') $IP" >> "$BANNED_IP_LOG"
IP_LIST+=("$IP")
fi
done
# 打印被封禁的IP地址
if [ ${#IP_LIST[@]} -gt 0 ]; then
echo "以下IP地址已被封禁:"
printf "%sn" "${IP_LIST[@]}"
else
echo "沒有需要封禁的IP地址。"
fi
5.查看網卡實時流量腳本
代碼執行:bash interface_moniter.sh eth0
interface_moniter.sh腳本內容如下:
#!/bin/bash
# 如果沒有傳遞參數,默認使用 lo 作為網絡接口
NIC=${1:-lo}
echo -e " In ------ Out"
while true; do
# 使用awk命令從/proc.NET/dev文件中提取指定網絡接口的接收字節數和發送字節數,并保存到變量OLD_IN和OLD_OUT中
OLD_IN=$(awk '$0~"'$NIC'"{print $2}' /proc/net/dev)
OLD_OUT=$(awk '$0~"'$NIC'"{print $10}' /proc/net/dev)
# 等待1秒鐘
sleep 1
# 再次使用awk命令提取最新的接收字節數和發送字節數,并保存到變量NEW_IN和NEW_OUT中。
NEW_IN=$(awk '$0~"'$NIC'"{print $2}' /proc/net/dev)
NEW_OUT=$(awk '$0~"'$NIC'"{print $10}' /proc/net/dev)
# 計算接收速率和發送速率,單位為KB/s,并保存到變量IN和OUT中
IN=$(printf "%.1f%s" "$((($NEW_IN-$OLD_IN)/1024))" "KB/s")
OUT=$(printf "%.1f%s" "$((($NEW_OUT-$OLD_OUT)/1024))" "KB/s")
# 使用echo命令輸出接收速率和發送速率
echo "$IN $OUT"
sleep 1
done
6.訪問日志分析腳本代碼執行:bash
log_analyze.sh access.log
log_analyze.sh腳本內容如下:
#!/bin/bash
# 日志格式: $remote_addr - $remote_user [$time_local] "$request" $status $body_bytes_sent "$http_referer" "$http_user_agent" "$http_x_forwarded_for"
LOG_FILE=$1
echo "統計訪問最多的10個IP"
awk '{a[$1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}' $LOG_FILE | sort -k2 -nr | head -10
echo "----------------------"
echo "統計時間段訪問最多的IP"
awk '$4>="[01/Dec/2018:13:20:25" && $4<="[27/Nov/2018:16:20:49"{a[$1]++}END{for(v in a)print v,a[v]}' $LOG_FILE | sort -k2 -nr | head -10
echo "----------------------"
echo "統計訪問最多的10個頁面"
awk '{a[$7]++}END{print "PV:",length(a);for(v in a){if(a[v]>10)print v,a[v]}}' $LOG_FILE | sort -k2 -nr
echo "----------------------"
echo "統計訪問頁面狀態碼數量"
awk '{a[$7" "$9]++}END{for(v in a){if(a[v]>5)print v,a[v]}}' $LOG_FILE