亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Linux虛擬文件系統(tǒng)深度解析:/dev、/proc、/sys實(shí)戰(zhàn)指南

Linux虛擬文件系統(tǒng)深度解析:/dev、/proc、/sys實(shí)戰(zhàn)指南 用了這么多年Linux/dev、/sys、/proc這三個(gè)目錄幾乎天天都在打交道但你有沒有真正想過它們到底是誰創(chuàng)建的、底層跑的是什么機(jī)制、為什么有的文件能直接cat出信息、有的文件寫進(jìn)去一個(gè)數(shù)字系統(tǒng)行為就變了這篇文章不打算講教科書上那種照本宣科的科普而是從一個(gè)實(shí)際運(yùn)維和開發(fā)者的視角把這三大虛擬文件系統(tǒng)的來龍去脈、核心設(shè)計(jì)、實(shí)操玩法以及我踩過的坑一次性講透。對(duì)于剛接觸Linux的朋友這三個(gè)目錄是繞不開的“詭異存在”——它們不占用磁盤空間文件大小經(jīng)常是0可偏偏是系統(tǒng)運(yùn)行的核心樞紐。對(duì)于有經(jīng)驗(yàn)的工程師理解這幾個(gè)目錄的內(nèi)部邏輯不只是為了面試更是排查硬件故障、調(diào)整內(nèi)核參數(shù)、做性能分析的基本功。我盡量用類比和現(xiàn)場(chǎng)實(shí)例把背后的原理講明白讀完你再去敲ls /dev、cat /proc/meminfo、find /sys/class感官會(huì)完全不一樣。1. 三個(gè)目錄的整體定位與設(shè)計(jì)思路1.1 它們不是普通目錄而是“虛擬文件系統(tǒng)”的掛載點(diǎn)第一次接觸Linux的人往往會(huì)問為什么/dev、/proc、/sys在df -h里看不到占用空間卻又能“存”東西答案很簡(jiǎn)單它們根本不是磁盤上的目錄而是內(nèi)核在內(nèi)存中構(gòu)建出來的虛擬文件系統(tǒng)掛載到了對(duì)應(yīng)路徑。你可以用mount命令確認(rèn)一下常見的輸出類似這樣$ mount | grep -E /dev|/proc|/sys devtmpfs on /dev type devtmpfs (rw,nosuid,relatime,size65052k,nr_inodes65052,mode755) proc on /proc type proc (rw,nosuid,nodev,noexec,relatime) sysfs on /sys type sysfs (rw,nosuid,nodev,noexec,relatime)注意它們的文件系統(tǒng)類型分別是devtmpfs、proc、sysfs都不是ext4或xfs這種真正的磁盤文件系統(tǒng)。換句話說你“看到”的文件、目錄、屬性都是內(nèi)核按需生成并呈現(xiàn)在你面前的背后沒有物理存儲(chǔ)介質(zhì)。這個(gè)設(shè)計(jì)思路很妙對(duì)用戶態(tài)程序訪問設(shè)備信息、進(jìn)程狀態(tài)、內(nèi)核參數(shù)統(tǒng)一走“打開文件、讀寫文件”這套熟悉接口不用發(fā)明新API也不用手寫一堆ioctl調(diào)用。1.2 三個(gè)目錄的分工設(shè)備節(jié)點(diǎn)、進(jìn)程信息、設(shè)備模型說白了一句話記法/dev是“設(shè)備的入口”/proc是“進(jìn)程與內(nèi)核的臨時(shí)窗口”/sys是“設(shè)備與驅(qū)動(dòng)的結(jié)構(gòu)化視圖”。三者緊密關(guān)聯(lián)但定位不同。/dev提供設(shè)備訪問節(jié)點(diǎn)。你想讀寫硬盤、串口、聲卡都是打開/dev/下面的某個(gè)文件。這里核心是“能操作”是向磁盤、硬件驅(qū)動(dòng)發(fā)請(qǐng)求的通道。/proc提供進(jìn)程級(jí)別和內(nèi)核級(jí)別的運(yùn)行時(shí)信息。比如系統(tǒng)負(fù)載、內(nèi)存使用、每個(gè)進(jìn)程的映射、命令行參數(shù)。核心是“看狀態(tài)、改參數(shù)”最早的動(dòng)態(tài)內(nèi)核參數(shù)入口就在這里。/sys提供設(shè)備、驅(qū)動(dòng)、總線之間關(guān)系的結(jié)構(gòu)化視圖。核心是“管設(shè)備”它把內(nèi)核設(shè)備模型暴露出來你能看到一塊SSD掛在哪個(gè)控制器下、某個(gè)驅(qū)動(dòng)綁定哪個(gè)設(shè)備也能在運(yùn)行時(shí)調(diào)整設(shè)備級(jí)參數(shù)比如風(fēng)扇轉(zhuǎn)速、屏幕背光。如果還不直觀打個(gè)比方/dev像一個(gè)小區(qū)大門口的門禁設(shè)備你刷個(gè)卡就能進(jìn)出具體單元/proc像是物業(yè)中心的公告欄上面實(shí)時(shí)貼著整個(gè)小區(qū)的運(yùn)行數(shù)據(jù)有些欄位還允許你貼新通知來調(diào)規(guī)則/sys則是整個(gè)小區(qū)的規(guī)劃沙盤每一棟樓、每一條管道、每一個(gè)設(shè)備都按樹狀結(jié)構(gòu)擺得明明白白還能撥動(dòng)沙盤上的旋鈕做實(shí)時(shí)調(diào)整。1.3 為什么內(nèi)核不把這些功能做成普通命令而要做成文件這個(gè)設(shè)計(jì)是UNIX哲學(xué)的一部分“一切皆文件”。做成文件的好處顯而易見shell、Python、Perl甚至grep、awk、dd都能直接處理不用專門寫復(fù)雜的用戶態(tài)工具。想獲取CPU信息直接cat /proc/cpuinfo想給指定PID發(fā)個(gè)狀態(tài)查詢cat /proc/1234/status。這在排查生產(chǎn)問題時(shí)有巨大優(yōu)勢(shì)——很多場(chǎng)景下系統(tǒng)已經(jīng)嚴(yán)重卡頓連常規(guī)工具都起不來但cat一個(gè)文件這種原子操作仍然可以執(zhí)行這些虛擬文件系統(tǒng)此時(shí)就是最后的救命通道。2. /dev目錄設(shè)備文件系統(tǒng)的入口與實(shí)操要點(diǎn)2.1 字符設(shè)備、塊設(shè)備與設(shè)備號(hào)/dev中絕大部分文件對(duì)應(yīng)兩類設(shè)備字符設(shè)備和塊設(shè)備。字符設(shè)備以字節(jié)流方式讀寫比如鍵盤、串口、聲卡每次讀寫不經(jīng)過緩存層典型代表是/dev/null、/dev/tty。塊設(shè)備以固定大小的塊為單位讀寫數(shù)據(jù)可以走緩存、排隊(duì)、合并典型代表是磁盤/dev/sda、分區(qū)/dev/sda1。怎么快速區(qū)分ls -l第一列是c就是字符設(shè)備b就是塊設(shè)備。而設(shè)備文件最核心的標(biāo)識(shí)其實(shí)是“設(shè)備號(hào)”也就是主設(shè)備號(hào)和次設(shè)備號(hào)$ ls -l /dev/sda /dev/tty /dev/null brw-rw---- 1 root disk 8, 0 1月 5 10:00 /dev/sda crw-rw-rw- 1 root tty 5, 0 1月 5 10:00 /dev/tty crw-rw-rw- 1 root root 1, 3 1月 5 10:00 /dev/null這里8, 0表示主設(shè)備號(hào)8、次設(shè)備號(hào)0。主設(shè)備號(hào)對(duì)應(yīng)驅(qū)動(dòng)類型內(nèi)核靠它找到正確的設(shè)備驅(qū)動(dòng)次設(shè)備號(hào)用于區(qū)分同一驅(qū)動(dòng)下的不同物理設(shè)備或邏輯單元。/dev/sda和/dev/sdb共享主設(shè)備號(hào)8都是同一套SATA/SCSI磁盤驅(qū)動(dòng)只是次設(shè)備號(hào)不同。注意設(shè)備文件本身只是“門牌”不包含設(shè)備數(shù)據(jù)。真正干活的是內(nèi)核驅(qū)動(dòng)。你可以把設(shè)備文件理解成一個(gè)指向驅(qū)動(dòng)程序的門牌號(hào)應(yīng)用程序open它時(shí)內(nèi)核根據(jù)門牌號(hào)找到驅(qū)動(dòng)之后read/write就是驅(qū)動(dòng)和硬件在交互。2.2 devtmpfs與udev設(shè)備節(jié)點(diǎn)的自動(dòng)生成機(jī)制在老版本Linux里要在/dev下創(chuàng)建設(shè)備節(jié)點(diǎn)需要手寫mknod還得知道主次設(shè)備號(hào)維護(hù)成本極高。現(xiàn)代系統(tǒng)采用兩套機(jī)制配合內(nèi)核啟動(dòng)早期掛載devtmpfs由內(nèi)核自身為已經(jīng)識(shí)別的設(shè)備自動(dòng)創(chuàng)建設(shè)備節(jié)點(diǎn)保證基本可用隨后udev守護(hù)進(jìn)程接管根據(jù)內(nèi)核發(fā)出的uevent事件和規(guī)則文件做符號(hào)鏈接、權(quán)限設(shè)置、命名調(diào)整。比如一塊USB盤插上內(nèi)核識(shí)別后自動(dòng)在/dev下生成/dev/sdbudev再根據(jù)/dev/disk/by-uuid/之類的規(guī)則補(bǔ)建友好的穩(wěn)定鏈接。手動(dòng)創(chuàng)建設(shè)備節(jié)點(diǎn)的能力仍然值得掌握某些容器環(huán)境、嵌入式裁剪系統(tǒng)或恢復(fù)場(chǎng)景下設(shè)備節(jié)點(diǎn)缺失很常見一條mknod命令能救命mknod /dev/testnull c 1 3這條命令創(chuàng)建一個(gè)字符設(shè)備主設(shè)備號(hào)1、次設(shè)備號(hào)3恰好對(duì)應(yīng)null設(shè)備。創(chuàng)建完你可以echo hi /dev/testnull完全不會(huì)報(bào)錯(cuò)。反過來如果忘記指定主次設(shè)備號(hào)或搞錯(cuò)類型open設(shè)備會(huì)直接失敗。這也是排查“設(shè)備節(jié)點(diǎn)存在但無法訪問”問題時(shí)的關(guān)鍵步驟——節(jié)點(diǎn)只是入口入口對(duì)了驅(qū)動(dòng)不對(duì)一樣出錯(cuò)。2.3 常見設(shè)備節(jié)點(diǎn)及用途速查長(zhǎng)期和Linux打交道的開發(fā)者至少要和下面這些設(shè)備節(jié)點(diǎn)熟起來設(shè)備節(jié)點(diǎn)類型常見用途/dev/sda、/dev/nvme0n1塊設(shè)備整塊磁盤訪問配合fdisk、parted分區(qū)/dev/sda1、/dev/nvme0n1p1塊設(shè)備磁盤分區(qū)/dev/ttyS0字符設(shè)備串口調(diào)試嵌入式設(shè)備、網(wǎng)絡(luò)設(shè)備/dev/tty字符設(shè)備當(dāng)前終端echo test /dev/tty直接顯示在當(dāng)前屏/dev/null字符設(shè)備丟棄一切寫入數(shù)據(jù)讀取返回EOF最常見的“黑洞”/dev/zero字符設(shè)備讀取永遠(yuǎn)返回0字節(jié)用于清零或生成空數(shù)據(jù)/dev/random、/dev/urandom字符設(shè)備隨機(jī)數(shù)源urandom性能更好現(xiàn)代系統(tǒng)兩者基本等價(jià)/dev/loop0塊設(shè)備回環(huán)設(shè)備將鏡像文件模擬成塊設(shè)備掛載iso、ext4鏡像必備/dev/mapper/xxx塊設(shè)備設(shè)備映射器LVM、dm-crypt生成的邏輯設(shè)備實(shí)操中一個(gè)高頻用法是用/dev/zero配合dd生成指定大小的臨時(shí)文件dd if/dev/zero of./alldata.bin bs1M count1024 statusprogress這會(huì)在當(dāng)前目錄生成一個(gè)1G的全零文件經(jīng)常用來做稀疏文件測(cè)試、磁盤性能測(cè)試或者制造占位文件。同理把if/dev/urandom加進(jìn)去就能生成隨機(jī)內(nèi)容文件。這個(gè)“文件即設(shè)備、設(shè)備即文件”的思路在處理數(shù)據(jù)時(shí)真的非常順手。2.4 /dev的實(shí)操排查思路業(yè)務(wù)上遇到“無法識(shí)別磁盤”的問題我的排查順序基本固定。先lsblk看內(nèi)核是否能發(fā)現(xiàn)設(shè)備再ls -l /dev/看節(jié)點(diǎn)是否存在。如果內(nèi)核發(fā)現(xiàn)了但節(jié)點(diǎn)沒創(chuàng)建多半是udev規(guī)則問題查看udevadm monitor抓取uevent確認(rèn)規(guī)則是否攔截了命名如果節(jié)點(diǎn)存在但dd讀寫報(bào)錯(cuò)再dmesg看看底層驅(qū)動(dòng)有沒有I/O錯(cuò)誤、鏈路是否正常。這里要特別強(qiáng)調(diào)不要手動(dòng)在正常系統(tǒng)里亂刪/dev下面的設(shè)備節(jié)點(diǎn)再靠mknod重建因?yàn)閡dev規(guī)則和selinux上下文可能對(duì)不上重啟或拔插后反而更亂正常環(huán)境請(qǐng)讓udev管好它自己。3. /proc目錄進(jìn)程與內(nèi)核狀態(tài)的信息中樞3.1 procfs的設(shè)計(jì)理念沒有文件的文件系統(tǒng)/proc在早期Linux中是個(gè)很特別的存在它不存數(shù)據(jù)而是在你打開某一文件、讀取某一目錄時(shí)內(nèi)核動(dòng)態(tài)調(diào)用相應(yīng)函數(shù)生成內(nèi)容。/proc下沒有磁盤塊、沒有inode一切都是“現(xiàn)算現(xiàn)賣”。所以你看到很多文件大小是0但cat依然能輸出一堆內(nèi)容——這就是虛擬文件系統(tǒng)的特征。/proc最初是為了進(jìn)程信息而創(chuàng)建后來內(nèi)核參數(shù)也塞了進(jìn)來逐漸成了大雜燴。這也是后來/sys被設(shè)計(jì)出來的原因之一/proc什么都有但結(jié)構(gòu)混亂、分類不清晰、權(quán)限粒度粗糙。3.2 /proc三大類內(nèi)容進(jìn)程目錄、系統(tǒng)信息、內(nèi)核參數(shù)最核心的內(nèi)容分三類。第一類是/proc/[PID]/目錄每個(gè)運(yùn)行中的進(jìn)程都有一個(gè)以其PID命名的目錄。進(jìn)入任意一個(gè)進(jìn)程目錄status看狀態(tài)、cmdline看完整命令行、environ看環(huán)境變量、fd/看打開的文件描述符、maps看內(nèi)存映射。第二類是系統(tǒng)級(jí)信息比如/proc/cpuinfoCPU型號(hào)與特性、/proc/meminfo內(nèi)存使用細(xì)節(jié)、/proc/loadavg系統(tǒng)負(fù)載、/proc/uptime開機(jī)時(shí)長(zhǎng)與空閑時(shí)長(zhǎng)、/proc/interrupts中斷統(tǒng)計(jì)。第三類是內(nèi)核可調(diào)參數(shù)目錄/proc/sys/它與sysctl命令對(duì)應(yīng)幾乎是內(nèi)核運(yùn)行時(shí)調(diào)優(yōu)的主戰(zhàn)場(chǎng)。舉一個(gè)實(shí)操例子線上排查CPU使用率異常時(shí)除了top我會(huì)直接看進(jìn)程的/proc/[PID]/status和/proc/[PID]/schedstat判斷是不是發(fā)生了綁定異?;虼罅孔栽干舷挛那袚Q??茨硞€(gè)進(jìn)程打開了哪些文件則可直接ls -l /proc/[PID]/fd比lsof在某些受限環(huán)境里更原始可靠$ ls -l /proc/1234/fd | head total 0 lrwx------ 1 user user 64 1月 5 10:00 0 - /dev/null lrwx------ 1 user user 64 1月 5 10:00 1 - /var/log/app.log lr-x------ 1 user user 64 1月 5 10:00 2 - /etc/app.conf3.3 內(nèi)核參數(shù)調(diào)整/proc/sys與sysctl的關(guān)系/proc/sys下面的文件很多可以直接寫寫入即生效。但要注意兩點(diǎn)第一寫操作需要root權(quán)限第二這樣修改是臨時(shí)的重啟后丟失。持久化要通過/etc/sysctl.conf或/etc/sysctl.d/下的配置文件。sysctl命令本質(zhì)上就是在讀寫/proc/sys比如以下兩條命令是等價(jià)的echo 1 /proc/sys/net/ipv4/ip_forward sysctl -w net.ipv4.ip_forward1在修改內(nèi)核參數(shù)前我強(qiáng)烈建議先確認(rèn)當(dāng)前值和上下文。比如要啟用IP轉(zhuǎn)發(fā)先cat /proc/sys/net/ipv4/ip_forward再確認(rèn)網(wǎng)絡(luò)架構(gòu)中是否存在多個(gè)網(wǎng)卡之間需要轉(zhuǎn)發(fā)流量否則開著轉(zhuǎn)發(fā)在安全敏感環(huán)境里可能有風(fēng)險(xiǎn)。更常規(guī)的做法是修改/etc/sysctl.conf后執(zhí)行sysctl -p這樣既能持久化也能檢查語(yǔ)法。另外/proc/sys下的參數(shù)命名規(guī)律很有用/proc/sys/net/ipv4/tcp_tw_reuse對(duì)應(yīng)net.ipv4.tcp_tw_reuse就是把路徑中的/proc/sys/前綴和斜杠換成點(diǎn)。3.4 一個(gè)需要注意的特殊文件/proc/kcore 與 /proc/sysrq-trigger/proc/kcore是內(nèi)核核心內(nèi)存的映像大小跟你物理內(nèi)存差不多但別拿cat去讀也別隨手cp否則系統(tǒng)會(huì)卡死。要分析內(nèi)核內(nèi)存請(qǐng)用crash、gdb等專門機(jī)制或者直接繞過這個(gè)文件。另一個(gè)常被忽視的/proc/sysrq-trigger則是系統(tǒng)卡死時(shí)的終極逃生門允許你向內(nèi)核發(fā)送特殊序列命令。比如系統(tǒng)完全無響應(yīng)但還能按下鍵時(shí)執(zhí)行echo s /proc/sysrq-trigger echo u /proc/sysrq-trigger echo b /proc/sysrq-triggerecho s同步磁盤echo u只讀方式重新掛載文件系統(tǒng)echo b立即重啟。整套組合拳在運(yùn)維現(xiàn)場(chǎng)曾經(jīng)救過我一回。生產(chǎn)環(huán)境要提前確認(rèn)內(nèi)核/proc/sys/kernel/sysrq的值不為0否則sysrq-trigger會(huì)被禁用。3.5 /proc容易踩坑的細(xì)節(jié)有一個(gè)我踩過不少次的坑解析/proc/meminfo時(shí)不同內(nèi)核版本字段名稱會(huì)有變動(dòng)比如MemFree里可能包含被內(nèi)核回收的緩存如果直接拿它判斷“內(nèi)存還夠不夠”經(jīng)常會(huì)被誤導(dǎo)。我更習(xí)慣看MemAvailable這是內(nèi)核經(jīng)過算法預(yù)估的可分配內(nèi)存比MemFree更有參考意義。另一個(gè)坑是/proc/[PID]/status中的VmRSS只能代表物理內(nèi)存駐留量無法完全等價(jià)于程序真正占用的內(nèi)存如果程序有共享庫(kù)映射VmRSS會(huì)重復(fù)計(jì)算共享部分精確分析得綜合smaps里的細(xì)分項(xiàng)。4. /sys目錄設(shè)備模型與內(nèi)核對(duì)象的結(jié)構(gòu)化視圖4.1 sysfs的誕生對(duì)癥下藥解決/proc的混亂/sys對(duì)應(yīng)的文件系統(tǒng)叫sysfs出現(xiàn)在Linux 2.6時(shí)代核心目的就是“收拾”/proc這個(gè)雜物間。它把內(nèi)核的設(shè)備和驅(qū)動(dòng)模型以嚴(yán)格的層次結(jié)構(gòu)暴露給用戶空間。如果說/proc是按用途堆文件那么/sys就是按“設(shè)備拓?fù)洹苯夸?。你?sys下看到的目錄名稱背后都對(duì)應(yīng)著內(nèi)核中的kobject對(duì)象目錄的嵌套結(jié)構(gòu)對(duì)應(yīng)kobject之間的父子關(guān)系。這也是理解/sys最關(guān)鍵的一點(diǎn)它不是隨便設(shè)計(jì)的目錄樹它是內(nèi)核設(shè)備模型在用戶態(tài)的真實(shí)映射。4.2 核心子目錄速覽/sys/devices、/sys/bus、/sys/class、/sys/block/sys/devices是最底層真實(shí)的設(shè)備樹包含系統(tǒng)總線PCIe、USB、平臺(tái)總線等上所有真實(shí)設(shè)備路徑冗長(zhǎng)但最完整。/sys/bus按總線類型組織是查找設(shè)備和驅(qū)動(dòng)綁定的近路比如/sys/bus/pci/devices/下列出所有PCI設(shè)備每個(gè)設(shè)備目錄下有driver符號(hào)鏈接指向當(dāng)前綁定的驅(qū)動(dòng)。/sys/class按設(shè)備功能分類比如net下是網(wǎng)卡、block下是塊設(shè)備、backlight下是屏幕背光、thermal下是溫度傳感器這種分類最貼近日常使用。/sys/block是塊設(shè)備專屬視圖軟鏈到真實(shí)設(shè)備路徑。查看某個(gè)nvme固態(tài)硬盤的信息可以這樣$ ls -l /sys/class/block/nvme0n1 lrwxrwxrwx 1 root root 0 1月 5 10:00 /sys/class/block/nvme0n1 - ../../devices/pci0000:00/0000:00:01.0/0000:01:00.0/nvme/nvme0/nvme0n1順著這條軟鏈能看到它掛在哪個(gè)PCI控制器下進(jìn)而判斷是不是接了轉(zhuǎn)接卡、走的是不是直通CPU的PCIe通道。4.3 實(shí)用場(chǎng)景通過/sys讀取設(shè)備狀態(tài)與調(diào)節(jié)參數(shù)/sys里很多文件是只讀的但不乏可寫的高頻參數(shù)入口。比如查看CPU頻率策略直接讀/sys/devices/system/cpu/cpu0/cpufreq/scaling_cur_freq單位是kHz。調(diào)整最大最小頻率則寫對(duì)應(yīng)文件echo 2400000 /sys/devices/system/cpu/cpu0/cpufreq/scaling_max_freq再比如查看硬盤溫度部分NVMe設(shè)備支持cat /sys/class/nvme/nvme0/device/hwmon/hwmon*/temp1_input輸出的是毫攝氏度除以1000就是正常攝氏度讀數(shù)。另一個(gè)高頻操作是背光亮度調(diào)節(jié)筆記本場(chǎng)景下/sys/class/backlight/intel_backlight/brightness可以直接寫數(shù)值比在桌面環(huán)境里拖滑塊更快多級(jí)腳本調(diào)光也常走這里。但切記這些寫入操作都是臨時(shí)的重啟后復(fù)位需要持久化請(qǐng)走systemd服務(wù)或?qū)?yīng)的硬件抽象層工具。4.4 sysfs與uevent/udev的關(guān)系/sys不只是給人看的也是給用戶態(tài)事件機(jī)制用的。內(nèi)核檢測(cè)到設(shè)備插入或移除時(shí)sysfs會(huì)生成uevent事件udev通過netlink監(jiān)聽到這些事件后根據(jù)規(guī)則在/dev下創(chuàng)建設(shè)備節(jié)點(diǎn)、創(chuàng)建符號(hào)鏈接、設(shè)置權(quán)限。你可以在命令行手工觸發(fā)uevent重放讓udev重新處理某個(gè)設(shè)備這在調(diào)試設(shè)備規(guī)則時(shí)非常有用echo change /sys/class/net/eth0/uevent執(zhí)行后udev會(huì)重新處理eth0的change事件。調(diào)試網(wǎng)卡改名規(guī)則、權(quán)限規(guī)則時(shí)配合udevadm monitor看實(shí)時(shí)事件輸出整個(gè)鏈路清晰可見。所以/sys與/dev的關(guān)系可以理解為/sys是設(shè)備和驅(qū)動(dòng)的“關(guān)系網(wǎng)”/dev是面向應(yīng)用訪問的“操作門戶”而uevent是維護(hù)門戶的更新信號(hào)。4.5 使用/sys排查硬件問題的經(jīng)驗(yàn)?zāi)玫揭慌_(tái)服務(wù)器懷疑網(wǎng)卡掉速或PCIe降速我會(huì)查/sys/bus/pci/devices/0000:xx:00.0/目錄下的link_speed、link_width對(duì)比設(shè)備原始能力和當(dāng)前協(xié)商狀態(tài)。同樣命令cat /sys/class/net/eth0/carrier顯示1表示物理鏈路正常0表示沒插線或?qū)Ψ皆O(shè)備未啟動(dòng)cat /sys/class/net/eth0/operstate則直接顯示up、down、unknown等狀態(tài)。遇到NVMe設(shè)備掉盤/sys/class/nvme/nvme0/device/下經(jīng)常能看到健康信息nvme smart-log也是讀同一套數(shù)據(jù)只是通過字符設(shè)備另外暴露兩者可以交叉驗(yàn)證。5. 三個(gè)目錄的差異對(duì)比與整體協(xié)作5.1 一張表看懂三者核心區(qū)別對(duì)比項(xiàng)/dev/proc/sys文件系統(tǒng)類型devtmpfs、udev管理procsysfs核心內(nèi)容設(shè)備文件節(jié)點(diǎn)進(jìn)程信息、內(nèi)核信息與參數(shù)設(shè)備、驅(qū)動(dòng)、總線拓?fù)涫欠裾鎸?shí)占磁盤否否否典型操作open、read、write設(shè)備cat查看、echo修改內(nèi)核參數(shù)cat查看、echo修改設(shè)備參數(shù)主要設(shè)計(jì)目的提供設(shè)備訪問入口進(jìn)程與內(nèi)核運(yùn)行時(shí)狀態(tài)結(jié)構(gòu)化設(shè)備模型與運(yùn)行期配置內(nèi)容是否可寫多數(shù)不可寫/proc/sys下可寫部分屬性文件可寫持久性動(dòng)態(tài)重建改動(dòng)重啟丟失改動(dòng)重啟丟失常用命令lsblk、fdisk、dd、mknodps、lsof、sysctl、catudevadm、cat、echo、find這張表基本可以覆蓋日常工作的認(rèn)知。重點(diǎn)提示三者都不是永久存儲(chǔ)不要指望在里面保存數(shù)據(jù)。曾有同事把配置寫到/proc下面的臨時(shí)文件里重啟機(jī)器什么都沒了這種用法天然就是錯(cuò)的。真正的配置要么寫到/etc要么通過systemd單元重啟后自動(dòng)重建。5.2 三者在一次磁盤故障排查中的聯(lián)合用法我用一個(gè)非常典型的磁盤故障場(chǎng)景把三個(gè)目錄串起來。某次線上機(jī)器告警某塊數(shù)據(jù)盤讀寫超時(shí)。我先執(zhí)行l(wèi)sblk確認(rèn)盤符為/dev/sdc接著cat /sys/class/block/sdc/device/state查看設(shè)備狀態(tài)發(fā)現(xiàn)狀態(tài)異常。隨后dmesg確認(rèn)I/O錯(cuò)誤再看cat /proc/diskstats統(tǒng)計(jì)該磁盤的IO錯(cuò)誤計(jì)數(shù)最后smartctl -a /dev/sdc獲取SMART健康信息綜合判斷是物理磁盤即將損壞及時(shí)更換。整個(gè)過程涉及/dev、/proc、/sys互補(bǔ)/dev給出訪問入口/proc給出全局IO統(tǒng)計(jì)/sys給出設(shè)備與驅(qū)動(dòng)狀態(tài)。少任何一個(gè)目錄排查效率和信息完整性都會(huì)大打折扣。5.3 容器環(huán)境下的新變化近年容器化普及后這三個(gè)目錄的行為出現(xiàn)了新差異。容器內(nèi)部的/proc和/sys通常并非宿主機(jī)全局視圖而是掛載了帶有命名空間隔離或只讀約束的副本。在容器里cat /proc/meminfo會(huì)看到宿主機(jī)的物理內(nèi)存但/proc/[PID]/下的很多進(jìn)程在容器外的父進(jìn)程視角完全不同早期版本的Docker默認(rèn)以只讀方式掛載/sys部分子目錄導(dǎo)致在容器內(nèi)調(diào)節(jié)某些設(shè)備參數(shù)直接報(bào)Read-only file system。排查這類問題時(shí)要先mount | grep sysfs確認(rèn)掛載參數(shù)不要想當(dāng)然認(rèn)為容器內(nèi)能改宿主機(jī)的設(shè)備參數(shù)。安全上這是合理限制也是Linux內(nèi)核持續(xù)演進(jìn)的方向之一。6. 常見問題與避坑經(jīng)驗(yàn)實(shí)錄6.1 誤刪/dev節(jié)點(diǎn)如何恢復(fù)偶爾會(huì)有人誤刪/dev/null、/dev/sda。正常系統(tǒng)下最快恢復(fù)方式是借助mknod重建前提是你知道正確的主次設(shè)備號(hào)和類型。比如恢復(fù)null設(shè)備rm -f /dev/null mknod /dev/null c 1 3 chmod 666 /dev/null執(zhí)行前用ls -l /dev/null查詢?cè)瓕傩宰顬榉€(wěn)妥。如果是磁盤類設(shè)備節(jié)點(diǎn)損壞優(yōu)先考慮重啟或觸發(fā)udev重放而不是手動(dòng)mknod重建否則分區(qū)符號(hào)鏈接、磁盤組、設(shè)備映射器的依賴容易對(duì)不上。嵌入式和容器里沒有udev才需手動(dòng)mknod這時(shí)明確自己系統(tǒng)里設(shè)備的主次設(shè)備號(hào)就是基本功了可以在同型號(hào)正常機(jī)器上查好了備用。6.2 為什么cat /proc/xxx發(fā)現(xiàn)文件大小是0這完全正常。虛擬文件系統(tǒng)沒有真實(shí)數(shù)據(jù)塊文件大小通常表示不了什么。讀取時(shí)動(dòng)態(tài)生成內(nèi)容才是它的工作方式。所以不要因?yàn)閘s -l /proc/meminfo顯示0就把它當(dāng)成空文件直接用cat看內(nèi)容。相關(guān)地du -h /proc也毫無意義它會(huì)顯示0反而可能讓你誤判。6.3 修改/sys或/proc參數(shù)后重啟失效這不是bug而是設(shè)計(jì)。/proc/sys和/sys的可調(diào)參數(shù)屬于運(yùn)行時(shí)設(shè)置以內(nèi)核內(nèi)存為存儲(chǔ)介質(zhì)重啟必然恢復(fù)默認(rèn)。要實(shí)現(xiàn)持久化/proc/sys走/etc/sysctl.conf或/etc/sysctl.d/*.conf/sys設(shè)備參數(shù)沒有統(tǒng)一持久化入口一般通過systemd服務(wù)、rc.local或者udev規(guī)則在開機(jī)時(shí)重新寫入。我自己寫過一個(gè)專門調(diào)背光和CPU頻率閾值的systemd unitExecStart里逐行echo生產(chǎn)環(huán)境中穩(wěn)定復(fù)現(xiàn)比依賴具體桌面環(huán)境可靠得多。6.4 修改/sys或/proc提示Permission denied兩種常見情況非root用戶權(quán)限不足文件本身被內(nèi)核標(biāo)記為只讀。對(duì)于root用戶仍報(bào)拒絕的多數(shù)是掛在只讀屬性上echo前先cat /sys/.../文件確認(rèn)當(dāng)前內(nèi)容再判斷內(nèi)核是否允許寫。有些參數(shù)受其他子系統(tǒng)約束比如CPU頻率受熱保護(hù)策略干預(yù)即使寫入了也會(huì)被內(nèi)核自動(dòng)糾正反復(fù)改不生效時(shí)先看dmesg和thermal相關(guān)文件。6.5 /dev/random和/dev/urandom到底用哪個(gè)現(xiàn)代Linux內(nèi)核里/dev/random和/dev/urandom的差異已經(jīng)大幅縮小。早期隨機(jī)數(shù)池估計(jì)不足時(shí)random讀多了會(huì)阻塞urandom不會(huì)今天兩者底層共享相同的CRNG密碼學(xué)隨機(jī)數(shù)生成器僅在啟動(dòng)初期存在理論差異。絕大多數(shù)業(yè)務(wù)場(chǎng)景直接用/dev/urandom即可需要高安全性且能容忍阻塞的場(chǎng)景才考慮讀/dev/random。生成密鑰或會(huì)話令牌時(shí)優(yōu)先建議直接用內(nèi)核提供的getrandom()系統(tǒng)調(diào)用而不是手動(dòng)打開設(shè)備文件更簡(jiǎn)潔也更規(guī)范。6.6 在/sys或/proc里誤寫危險(xiǎn)參數(shù)導(dǎo)致系統(tǒng)異常/proc/sys/kernel/panic被設(shè)為0以上時(shí)內(nèi)核panic后會(huì)自動(dòng)重啟/proc/sys/vm/drop_caches寫入1、2、3會(huì)丟棄頁(yè)緩存、目錄項(xiàng)或inode緩存對(duì)啟動(dòng)時(shí)內(nèi)存吃緊的系統(tǒng)可能造成短暫卡頓/sys下某些電源管理文件寫錯(cuò)可能導(dǎo)致設(shè)備直接掉電。因此任何寫操作特別是生產(chǎn)環(huán)境一是提前備份原值二是先確認(rèn)文件語(yǔ)義三是寫好回滾方案。如果只是臨時(shí)測(cè)試建議在測(cè)試機(jī)或容器環(huán)境內(nèi)驗(yàn)證再推廣到生產(chǎn)。7. 一點(diǎn)實(shí)操心得這三個(gè)目錄用熟了你對(duì)Linux的認(rèn)知會(huì)有實(shí)質(zhì)提升。我最深的體會(huì)是它們不是三個(gè)獨(dú)立零散的文件夾而是內(nèi)核向用戶態(tài)開的三扇窗/dev提供出入口/proc反映運(yùn)行時(shí)狀態(tài)/sys描述設(shè)備關(guān)系。排查思路的起點(diǎn)就是先想清楚當(dāng)前問題該看哪扇窗而不是盲目地在所有目錄里翻找。最后再分享一個(gè)提高效率的小技巧善用find在兩個(gè)虛擬目錄組合搜索。比如你想找出所有可調(diào)亮的背光設(shè)備一條命令find /sys/class -maxdepth 2 -name brightness -type f直接定位想確認(rèn)哪些進(jìn)程還打開著某個(gè)已經(jīng)被刪除的文件find /proc/*/fd -lname *deleted*能快速掃出來。這些操作沒有復(fù)雜的工具依賴純shell就能完成在救援模式下尤為好用。多讀、多試、多對(duì)比/dev、/proc、/sys會(huì)成為你最順手的Linux排查利器。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久av无码| 日本久久久精品电影| 欧亚日韩综合精品国产| 午夜亚洲WWW湿好大| 9+1视频网址| 白丝在线一区| 五月丁香拍拍激情综合三级| 精吧天堂| av在线免费一区二区| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 老师充足的奶水小说| 亚洲av乱伦色图网站| 囯产精品久久久久久久久久二区三区| 爱媛媛久久国产福利| 60秒免费小视频| 亚洲欧洲av影音| 看看小穴| 欧美黄色手机在线观看| 久久9久9久99久9久9| 射久久| 亚洲精品三| 狠狠爱夜夜干| 最新欧洲欧美日本激情网站| 欧美在线天堂| 一区二区三区日韩欧美| 美女操逼A A| 亚洲免费97免费| 亚洲乱码精品一区二区| 欧美猛交黑寡妇中文字幕| 婷婷在线视频在线观看| 操淫穴亚洲五月丁香| 日本欧美韩国国产在线| 好一吊区二区| 欧美日韩电影一区二区| 嫩草一区二区在线观看| 免费试看60秒| 亚爽爽爽爽爽爽爽爽| av强奸乱轮| 久久↗↗| 97人妻色| 婷婷在线视频| 十八禁视频一区二区| 久久一本大香蕉 | www. 男人天堂成人在线| 午夜寂寞欧美| 天天综合亚洲综合| 少妇人妻在线| 人人喜人人妻| 亚洲不卡不卡中文字幕不卡| 强奸乱伦大香蕉| 久久精品国产亚洲粉嫩| 91新在线欧美| 强奸乱伦av电影| 麻豆精品.欧美精品.日韩精品.| 青青青国产| 日韩无码a片| www.acm成人黄色毛片| 婷婷丁香五月综合| 尤物网址| 久久久999| 高跟伊人julia ann| 国产极品美女高潮无套在线观看| 白嫩少妇| 美女十八禁| 久久中文色图| 超碰在线国产| 免费操逼视频下载| 日韩人妻制服丝袜av| 一卡二卡三卡| av久日| 欧美另类色| 国产AV超爽| 性爱综合一区二区| 国产馆| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 久久草视频污视频| 一区二区三区 丝袜 高跟 美腿 | 亚洲黄片免费在线播放| 日韩大香蕉AV影片| 性高潮久久久| 国产精品毛片| 日韩 欧美 国产 麻豆| 五月丁香啪啪啪| 三级色综合| 久久精品—区二区三区内射| 国产97在线 | 亚洲| 精品女同一区| 亚洲国产青青| 少妇内射www在线观看视频| 97人人超| 久久精品国产72国产精品福利| 日韩免费中文字幕视频| 97超碰色色| 欧美桃色网| 热的中文 热的有码 热的国产| 亚洲欲色9532548967一区| 性爱1区| 欧美日韩日产免费网站看| 性无码专区2020| 97中文字幕九区| 欧美性五月| 欧亚揄拍偷拍精品视频| 无码人妻精品一区二区三区九九| 在线观看视频91| 天天日日日射| 蜜桃中文字日产乱幕4区| www99热| 久久 国产精品 一区| 免费在线观看国内色片网站网址| 日韩AC| 性爱乱伦网址| 色五月激情网| 800zy一区二区| 国产女同性恋视频| 超碰精品97| 啊啊啊操死我了| 少妇内射视频| 超碰在线综合97| 欧美色图人妻| 日韩射图| 中文字幕AV中出| 精品欧美乱码久| 久久风骚城市人| 精品国产99999| 97超碰影音| 插B在线观看| 免费视频观看60秒| 最新日日夜夜天天干干| 久久精品国产亚洲AV高级北京| 久久综合久久综合人久久夜精品| 国模一区二区三区| 久久视网78| 九九九九免费视频| 亚洲成人在线乱码色午夜| 欧洲精品二区| WWW啪啪的com| 亚洲免费看片| 亚洲、日韩、综合、另类| 一区二区三区四区姦女| 亚洲综合校园春色| 天天狂操夜夜狂日| 欧美日韩另类在线| 91呆哥人妻| 日韩人妻大香蕉| 91欧美美女日韩国产婷婷| 中文字幕久久亚州无码| 一本色道人妻久久| 日韩精品碰碰| 青青草中文-久久青草精品一区二区三 | 97视频在| 99热9| 深夜视频| 超碰人人在线| 欧美亚洲高清不卡| 亚州综| 国产精品原创巨作?v网站| 亚洲国产奇米影视久久| 亚洲丝袜色| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 在线免费观看高清无码视频| 精品中文日韩字幕视频| 少妇色综合| 欧美日韩狠狠爱| 免费看片黄| 92午夜免费福利视频| 国产无码久久高清| 色综合色欲色综合色综合色综合| 91jk色拍| 另类图片天天影视| 99日韩| 日韩三级在线观看mp4| 色九色久| 一类av片在线看| 人妻AV 中文字幕的| 亚洲一区二区 麻豆传媒| 国产精品青青草| 青草香蕉网| AV色女综合| 欧美激情久操网| 熟女乱伦A| 久久婷婷亚洲| 成人天天看站长推荐| 2019亚洲男人天堂| 日本人妻丰满熟妇久久久久久| 凹凸久久人人| 1024亚洲中文字幕久在线看片你懂的| 蜜臀99999| 人人操人人肉久久精品| 五月丁香拍拍激情综合三级| 欧美天天插| 亚洲综合校园春色| 亚洲激情综合另类男同| 色综合中文字幕不卡| 亚洲 欧美 综合 91| 97色亚洲| 亚洲偷拍自拍在线视频| 九九九九九九九九九五码| 密臀成人视频久久久| 人人操人人摸人人骑| aⅴ日韩成人电影av在线免费看av大全 | 伊人久久国产免费观看视频| 少妇熟女视频一区二区三区 | 日本三级A片网站com| 97久久超碰| 久久久禁| 操逼大黄片| 久久人人爽爽爽人久久久| 国产精品自在线发布| 久久久人体| 欧洲亚洲少妇| 九色视频91| 99re在线视频国产| 免费一级a毛片久久久久久鸭绿欲| 精品一区二区三区蜜桃臀赵总| 欧美综合在线第一页| 中文色综合| 国产视频一区二区在线| 91在线视频国产网站| 玖玖婷婷五月天| 亚洲欧美日韩中文久久自慰| 国产精品久久久久中文字幕| 四虎国产成人精品免费一女五男| 欧美色狠| 日韩美女久久一区二区三区| 一级性爱网| 亚洲高清在线| 大香蕉懂9| 99热久| 欧美色图另类图片| 国产伦精品一区二区三区在线观| 亚欧操逼片在线观看 | 国产亚洲日本精品在线| 91成人亚洲色图| 黄片在线免费在线观看| 性九九九九九九| 强歼乱伦资源网| 91美女视频电影| 久久婷婷综合国际产色怕| 国产第二页| 免费人成在线观看网站品爱网| 中美日韩毛片| 国产女人操逼视频| av影院十区| 五月丁香六月激情| 在线视频免费观看午夜| 佐山爱中文字幕| 国产二区三区免费视频| 99re只有精品| JIZZJIZZ国产精品喷水| 国产熟码AV| 国产伦乱91| 东京热,男人的天堂| 深爱五月婷婷| 极品销魂美女一区二区| 91精产一区二区三区| 思思在线免费视频| 日韩有码中文字幕女同性恋| 青娱乐av在线| 日韩国产在线观看av| 日韩无码服务区| 色五月激情综合网| 在线αⅴ| 男人天堂网手机版婷婷| 人妻加勒比东京热| 被窝影院午夜看片无码| 夜夜做夜夜爽精品视频| 激情综合五月| 大屁股人妻女教师撅着屁股| 中文字幕伊人| 人妻嗯啊啊在线播放| 婷婷伊人五月| 99re在线视频国产| 日日狠狠久久偷偷色综合免费| 97色网| 亚洲男人的天堂网| 91欧美| 中文字幕美女91| 超碰97亚洲区| 91熟女熟妇视频网站| 青青青国产手线观看视频2| 色香91| 草草影院在线视频| 久久久久久精品免费看A级| 欧美色蜜桃97| 69久久久久久久久久久久久| 亚洲无套久久嗯嗯| 亚洲精品官网在线观看| 97爱综合| av草草在线电影| 97舔舔| 日韩欧美综合激情| 好色综合| 国产丁香精品露脸视频| 美女大乳久久久久久久女人18| 中日韩欧美精品无码AⅤ一区二区| 91精品网站| 国产乱人妻精品入口| 超碰99在线| wwwxxx日本爽| 青青色在线观看| 99日免费视频中文字幕| 欧美久久婷| 人人爱操| 亚洲日韩精品一区视频在线| 综合网亚洲| 啊啊啊 在线| 欧美性爱一区二区三区四区| 国产婷婷一区| 日韩AV一区二区三区四四| 日韩卡一卡二卡三在线| yw尤物av无码点击进入麻豆| 91高清欧美| 综合久久99亚洲人妻中文在线| 成人婷婷丁香| 亚洲色欲天天人妻无码系列专区| 老司机老司机午夜影院| 极品欧美一区二区三区| 91人人操| 96超碰网| 亚洲少妇综合| 欧美综合综合| 青青操日韩| 风骚少妇视频中文字幕| 欧美少妇性乱| 亚洲综合骚逼| 金典av| 中 文字幕一区二区三四 五 区日 日 骚| 国产乱码久久| 女色视频社区| 观看视频图片一区二区三区| 亚洲国产精品乱码在线观看| 九九成人| 国产精品一区二区三区在线密挑| www久| 亚洲色欲天天人妻无码系列专区| 天堂8在线新版官网| 欧美成人AⅤ大片在线观看| 最新国内自拍av免费| 国产精品成久久久久午夜午夜| 色图综合| 激情小说亚洲| 亚洲国产美女久久久久| 百度百度日本操逼| 日韩性爱啪啪视频| 日本人妻伦在线中文字幕| 另类图片欧美激情综合| av强奸乱轮| 亚洲91在线播放影院| 久久青青草原免费视频| 国产女人和拘做爰视频| 亚洲天堂AV在线播放| 国产女同视频在线播放| 久久一区二区高清免费| 国产18精品亚洲精品| 26uuu国产免费观看| 伊人久久大香大香线蕉中文| 久久婷婷五月综合| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 日韩一区二区熟女| 97露脸精品丝袜| 欧美日韩黄色片一区二区三区四区人与兽做爱 | 久久精品国产亚洲妲己影视| 亚洲成人黄色在线观看| 亚洲国产精品V?在线播放| 6080YYY午夜理论片在线观看| 无码137片内射在线影院| 三级日本一区二区三区| 強姦亂倫a| 国产三级多多影院2022国产AA一级毛片无码 | 超碰97人妻自拍| 97在线播放| 综合久久99| 中文字幕丰满子伦无码专区在线视频最新| 国产精品不卡高清在线观看| 国产女人和拘做爰视频| 玖玖资源综合在线视频| 国产精品蜜乳AV| 五月天婷婷基地| 亚洲五月丁香花狠狠干一区二区三区| 亚洲 中文 女同| 99操99| 亚洲情色婷婷五月天| 高清不卡视频| 天海翼久久| 九九热三级片| 精品无码一区二区三区| ?亚洲伊人伊成久久人综合网| 久久97| 欧美综合色站| 粉嫩AV一区二区夜夜| 欧美狠狠干| 强奸乱伦中文字幕AV| 亚洲蜜桃V妇女| 亚洲日韩AV视色| 国产视频第2页| 青青草大香蕉视频| 欧美日韩性爱电影在线| 日本在线激情一区二区三区 | 亚洲视频二区 | 欧美高清16| 91大神精品长腿在线观看网站| 国产专区第一页| 国产动漫操逼视频| 亚洲色资源| 男女国产精品| 欧美黄片免费在线观看视频| 久久精品99| 91最新综合| 97超碰公开| 亚洲无无码αⅴ每日更新| 免费作爱一级视频| 97在线免费看| 操久久久久| 中文字幕精品一区欧美| 黑操B| 久久大陆| 精品无码秘 人妻一区二区| av无码精品久久久久| 久久国色天香香蕉| 春色91| 三级激情网站| 午夜精品一区二区三区三上悠亚| 玖玖大干人妻| 91精品国产日韩欧美综合| 国产精品久久久亚洲一区| 在线色资源| 夜夜操美女| 玖玖色综合| 国内成人圈中文字幕无码视频| 一区在线精品中文字幕| 国产精品国产拍高清AV| 超碰98综合网| 无码高清操逼网址| 91oumei| 久久久久婷婷精品av电影| 日韩日本欧美在线观看| 九九AV| 亚欧操逼片在线观看 | 婷婷五月激情综合| 欧美激情亚洲情色| 人人潮人人摸| 亚州 综合 色图| 操碰97| 99久久婷婷| 蜜臀99久久精品| 黄色区免费观看中文字幕| 亚洲射综合网| 日韩成人无码| 97色爱| 天天综合亚洲综合| 熟女人妻久久中文字幕一二区| 97爱啪| 白嫩国模丰满一二三区| 欧美色图在线视频少妇| 91在线视频观看国产| 中国小夫妻勾搭露脸淫荡对白| 91精品人妻偷情| 亚洲美女精品| A级在线视频| 午夜精品99久久久久传媒| 人妻蜜桃臀| 亚洲av影院在线观看| 国产精品夜夜夜| 天天色综亚洲91污| 自拍第一页| av午夜影院在线播放| 亚洲无限观看| 久久久久国产精品喷潮免费观看臀 | 曰韩中文人妻视频| 国产又大又粗又长视频在线| 熟女这里只有精品6| 亚洲欧洲精品成人| 自拍偷拍 高清无码| 少妇专区一二三四五| 天天色黄色影院天天操| 欧美日韩一干二干| 久久久精品成人国产| 蜜臀网址在线| 成功精品影院| 精品国产一区二区三区在线播出| 鸥美精品一区二区久久婷婷| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 亚洲一区二区三区久久 亚洲一区二区| 超碰美国| 99re只有精品| 91精品无码人妻系列| 欧美三四五区| 伊人青青一区成人视频在线观看区| 国产精品直播在线观看直播| 青青伊人久久| 亚洲中文字幕网| 17c嫩草51久久91嫩草| 97久久久精品| 国产又操| 黄色免费网| 欧美亚洲涩涩| 曰韩av中文字幕专区| 测评在线观看AV| 亚洲一二三| 97久久超碰| 欧美性高潮| 青青草五月天| 五月丁香成人网| 亚洲精品一区二区日本| 日韩欧美久久婷婷网站| 99久久无色码| 欧美性爱三区二区| 亚洲一区二区在线观看91| 欧美熟女丝袜| 中文字幕一区av| av日韩国产一区二区| 中文字幕精品码亚洲| 午夜欧美J进J出白浆流出久久久 | 天天综合网合集91| 久久九色| av日韩国产一区二区| 亚洲AV色图| 1204金沙人妻懂旧版免费| 狠狠干综合| 一级性爱啪啪视频| 精品一级| 色偷偷综合91久久噜噜| 97露脸精品丝袜| 精品超碰中文在线| 国产精品自在自拍视频| 91痴汉| 最新加勒比丝袜在线| 大香蕉综合网| 4399成人黄A片| 亚洲系列欧美| a人欧美综合天堂麻豆| 超碰在线成人| 久久久精精精| 黄色av网站在线播放| 嗯嗯啊好大| 天天干一区二区| 青青草天天亲夜夜操网| 国产A v无码专区| 99久久99久久免费精品蜜臀| 人妻精品一区二区三区| 好湿好紧视频| 狠狠爱AV| 加勒比少妇AV婷婷六月天超碰超碰| 超碰在线974| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 网友自拍第一页| 男生通女生屁股| 天欧美在线| 日韩久久艹| 日日干夜夜操视频h| 久久久久免费少妇| 99re9在线| 97五月天| 久久香蕉网| 色婷婷丁香五月天| 超碰人妻在线| 婷婷五月激情综合| 五月丁香在线| 六月丁香网| 色色丁香| 人妻AV 中文字幕的| 丁香五月影院| 亚洲不卡AV在线| 国产精品一二三区福利| 日韩高潮一区| 国产视频三区四区| 超碰公开久久网| 射丝袜高跟鞋99| 欧美成不卡网| 99在线视频播放| 久久久久大香青草精品综合| 久久久网一区| 天天操天天7| 丝袜狂射91| 超碰久草| 亚洲97精品| 国产精品一区二区三区免费视频| 国产精品久久久| nuu12国产麻豆精品| 超碰97资源网亚洲| 中日韩久久久免费看| 九九热av| 亚洲欧美第一页| 日韩无码一级黄色av片| 亚洲精品成人动漫在线| 国产精品第一区第一页| 琪琪精品免费一区二区三区 | 久操大香蕉| 精品国产乱码久久久久久久久1| 偷拍欧美激情| 伊人丝袜美腿高跟在线观看高清| 成人精品欧洲亚洲| 中国熟妇| 日韩电影在线观看网址| 亚洲色图国产另类| 久久夜精品一区二区三区| 香港久久久| 操逼网站网站| 93人人操人人| 色噜噜综合在线| 4141514逼喷水三级片| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 综合网91| 超碰国产精品久| 日韩啪啪网| 97操97色| 久久久草草精品| 97爱综合| 黑人无码一区二区| 五月天丁香| 日韩中文字幕av在线播放| 啊啊啊啊啊啊啊在线| 欧美色九九| 91香蕉视频在线观看免费| 色哟哟511老熟女| 亚洲va综合va国产va中文| 操逼内射干逼白丝91| 另类老少妇| 呦呦一区| 久久精品性| 精品人妻一区二区免费蜜桃| 91超碰丝袜制服| 欧美999| 精品亚洲国产成人AV制服丝袜| 台欧久久精品视频| 人人九九精| 日本熟妇浓毛hdsex| 少妇高潮对白在线观看| 中文字幕 av v| 久久精品成人一区二区三区蜜臀| 91一区二匹| 韩国三级理论在线| 久久久久久久久久久久久久久乱码| 97网址97| 免费少妇一区二区| 国产精品色色| 成人老鸭窝人人在线视频| 无马一区二区| 亚欧性爱ab| 欧美午夜色妇色鬼| 亚洲色图 欧美| 亚洲精品乱码久久久久久蜜桃麻豆| 亚州人妻| 日韩欧美加勒比| 偷窥自拍A片| 操亚州| 激情一区二区| 黄色片大香蕉| 蜜臀久久99精品| 久久久久白虎| 91成人精品在线播放| 免费人人搞97| 97超碰久久| 翔田千里av一区二区三区| 伊人久久大香线综合无码| 天天噜| 色99色| 大白逼三四级| 双插性欧美一二三区| 欧美久久婷婷| 啪啪性爱免费视频| 91丝袜美女| 综合色好色| 女人高潮抽搐喷水视频网站| 9ⅰ久久久天天| 又粗又长又爽在线观看| 色婷婷成人| 久久久亚洲精品中文字幕人妻| 丰满少妇乱子伦精品无| 91伊人久久在线| 天堂俺去俺来也www久久婷婷| 福利风月五月天影院| 84YTCOM性无码| 青娱乐导航AV| 91无码西班牙视频在线| 麻豆蜜桃视频在线观看| 九月伊人中文字幕| 96AV精品| 久久夜夜| 国产乱弄免费在线视频。| 性色AV蜜色av色欲av| caopeng97| 婷婷干黄色| 大香蕉欧美伊| 先锋激情∨在线视频播放| 99re在线观看| 午夜视频久久久久一区| 亚洲综合贴图91 | 久热最新在线杭州| 日韩美一区| 国产精品不卡av免费在线观看| 69精品在线| 手机午夜电影神马久久| 99re99视频在线免费观看| 亚洲国产尤物yw在线观看| 亚州欧美综合| 天天天天干| 亚洲天天在线| 亚洲揄拍网| 强奸乱伦Av网| 欧美偷拍| 欧美AB在线观看| 欧美日韩国产黄色片| 国模久久在线| 另类视频在线| 天天干天天舔| 999九九精品| 日本久久精品| 欧洲久久一二线| 欧美 亚洲 大香| 1024人妻熟女一区二区三区| 精品人妻一区二区三区四区| 极品粉嫩一区二区| 国产女人和拘做爰视频| 91在线丝袜| 99热综合在线| 人人操人人插人人摸人人干| 青青草在线视频播放器| 亚洲熟妇自偷自拍另欧美| 一区二区免费电影久久| 国产精品国产| 九九在线视频| 大香焦A片| 欧美色亚洲色| 欧美 日韩 国产传媒| www.91理论| 精品免费囯产一区二区三区| 欧美精品91| 成人福利视频网| 国产精品诱惑| 久久久内射良家| 中文字幕一区 二区三四五 区日 日骚| 1人人看人人摸人人操| 欧美日韩妖精91com| 国产av高清版| 日本精品第一视频在'| 男人的天堂 在线一区| 国产精品国产| 色妹子A V| 亚洲乱码精品一区二区| 天天综合,91入口| 屌妞视频久久久久久久| 国产精品熟女九九九| 九九九网页| 色噜噜人妻丝袜AV资源| 欧美精品亚洲精品日韩传电影| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 三男一女不戴套的A片| 午夜久久无码1000合集| 综合久欧洲| 夜夜嗨绯色| 中国AAAAAA黄色片| 国产精品老熟女一区二区| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 天天肏美女| 天天干嫩逼网| 九九黄色网| 黄久久| 丰满人妻无码一区二区三区| 欧中日成人免费影视| 久久久久九九九九| 99少妇精品视频| 校园春色五月天| 亚洲性爱高潮影院| 东京热大香蕉| 国产精品对白内射| 丝袜人妻av一区二区| 亚洲 中文 女同| 日韩三级伦理中文字幕| 男人的天堂.com| av网站免费线看| 久久九七| 免费一级黄色录像影片| 九九人妻| a久久| 99无码狠狠久久| 97天天综合网| 免费操逼视频下载| 97欧美色综合| 日日夜夜干| 国产一区在线看| 婷婷五月天伊人| 久久AV无码AV| 9999亚洲精品| 亚洲.欧美.丝袜.中文.综合| 欧美成人一级麻豆| 亚洲图片 激情小说| 亚洲最大无码中文字幕网站 | 久久久婷婷| 综合久久久久久久久91| 东北操逼| 麻豆天美国美国产AV| 欧美爱三级日韩久久| 嗯~啊~轻一点 视频| 九久9热| 亚洲综合中文字幕有码| 97在线免费观看视频| 亚洲性感丝袜诱惑在线观看| 六月婷婷激情| 国产精品久久久久久久毛片1| 亚欧成人一级片在线播放| baiduhicn.com。| 999国产精品999| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 精品人妻一区二区三区四区石在线| 草伊人高潮喷水超碰| 99色色网| 乱性AV| 欧美综合色综合| 欧美一二在线| 超碰亚洲欧美日韩无| 欧美日韩性爱操大逼| 九九九九精品精| 色综和网| 欧美亚洲丝袜美女电影| 激情婷婷| 亚卅熟女乱色| 在线看片国产精品每日更新| 日本黄大片在线观看视频| 91欧美综合| 国产乱码久久久| 成人热久久精品| 亚洲综合网电影91| 狠狠中文字幕| 麻豆精品久久久久久久| a网站免费观看| 在线另类| 69人妻精品一区二区绯色| 日韩黄色片子| 免费看片黄| 99精品国产户外露出| 东京热一区二区中文字幕| 91久久久久久久久18| 俞拍久久国应视频| 久久加勒比| 亚洲婷婷丁香在线| 在线播放成人高清免费视频 | 美女写真| 欧美做爰无码A片视频| 伊人久久婷婷| 精精夜夜| 97看操| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 午夜.DJ高清在线观看免费7| 精品国产一区二区三区香蕉欧美| 日韩图区 偷拍| 99热这里只有精品地址| 婷婷综合视频| 黄片qw| 天天天天天天天天天天干美女| 人妻中文字幕日韩电影| 婷婷色在线| 亚洲日韩青青草色月| 午夜精品人妻二区三区| 性老妇一区二区三区| 国产农村妇女精品1区二区| 91日日夜夜| 97视频在线看| 超碰成人最新最好看| 97九色人妻| 亚洲日本天堂| 黄片www视频免费| 333kkkk·亚洲com久久| 天天做天天爱天天高潮| 久久超碰大香蕉| 性一级黄色录像片网站导航| 无码精品久久久天天影视| 六月婷婷综合| 亚洲精品1区| 久久免费少妇| 97国产成人精品免费视频| 欧美在线伊人色| 亚洲天天天| 十八岁啪啪视频免费看| 久久久久久久久久久97| 日本在线999| 免费啪啪一级视频| 97人人中文网| 天天日天天干天天操| 日韩AV熟女乱伦| 欧美在线视频观看一二三四区高清| 国产97亚洲| 亚洲中文字幕三级在线| 欧美亚洲成人在线一区二区三区| 欧美激情久操网| 亚洲欧美洲综合| 欧美黄色片AAAAA| 青青草色插素人| 久久婷婷六月综合| 亚洲熟妇乱女区二区三区| 久日91在线| 51一区二区三区| 亚洲五月丁香花狠狠干一区二区三区 | 久久av成人无码免费| 久久性爱网站| 久久久久久中文字幕中文字幕最新| 美欧老女人97| 97碰久久| 国语av最新自产拍在线观看| 久久久久性熟视频| 夜夜高潮夜夜爽国产伦精品| 精品午夜福利导航| 在线观看日韩av不卡| 秋霞男人网| 三及片网站| 人看人人摸人人操| 蜜臀AV成人精品蜜臀| 亚洲熟女综合一区二区| 天天干天天狼在线视频| 干B| 黄色操人| 久久免费看高潮毛片韩国| 亚欧成人一级片在线播放| 二级久久网| 78m啪啪啪| 探花激情视频| 国产精品在线一区二区| 国产免费一区二区在线A片视频| 啊啊啊慢点| 日韩精品.久久精品.AV女优.天美传媒| 亚洲精品久久久久久久蜜桃臀| 情色日播放AV| 日韩激情毛片一级久久久| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | av一区二区三区 中文| AV有码在线| 蜜臀av中字字幕网站| 久久久久久亚洲中文| 无码人妻毛片丰满熟妇精品区| 国产原创自拍| 午夜偷拍久久熟女| 国产精品国产精品国产| 国产第11页| 日韩三级一区 | 黄色香蕉视频网站一区| 啊啊啊啊,啊啊好多水 | 精品一区二区亚洲国产| 偷窥自拍亚洲| 日本三级中国三级99人妇网站| 92人人操人人| 欧美性爱十八禁| 日韩久久.一级黄色片| 国产精品爱欲| 18啪啪手机免费性爱| 国产狂喷潮在线精品| jizz啪啪| 秋霞一级A片黄色视频| 国产精品久久久无码aV去| 亚洲无码国产探花在线观看| 啊啊啊啊好爽好舒服一区二区易域| www.av不卡中文字幕| 成人欧美日超碰| 色呦呦、国产精品| 熟女人妻精品一区二区视频| 亚洲少妇视频| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 日韩天堂av电影在线观看| 日韩乱码Av| 亚洲天天在线| 国产精品又黄又猛又粗| 操逼操2| 边做饭边操逼逼| www久久国产精品| 亚洲激情在线观看一区| 国产精品熟女九色九色蜜臀| 亚洲色 国产 欧美 日韩| 一级特级aaaa毛片免费观看| 五月天丁香婷婷综合网站| 国产中文日韩欧美一区二区三区人妻丝袜美腿 | 操老熟女AV| 日本久久久久久久久久| 78精品| 国产成人拍国产亚洲精品| 岛国激情视频软件| 人妻人人做人人澡人人爽欧美一区| 黄色av一区二区在线| 久久久人妻| 人妻大相焦在线| 久久精品国产97欧美精品亚洲| 97日韩欧美亚洲| 大学生美女口爆| 91艹B视频| JIZZJIZZ国产精品喷水| 天天操天天射青青草| 亚洲大胆人体av| 欧美天天干| 人人操人人摸人人看人人插| 婷婷深爱五月| 日本裸体久久色噜噜| 久湿久久| 成全动漫视频观看免费下载| 亚洲福利中文字幕在线| 91 丝袜在线| AV中文字幕三四五| 久久久久久久九九九九九九| 另类小说五月天| 日韩人妻精品中文字幕| 亚洲欧美另类小说| 成人日本视频人妻在线| 国产精品久久9| 老女人综合| 国产激情综合| 黄色AAAAAAAAAAA大片| 混色激情av| 欧美综合色,www| 国产精品婬乱一级毛片彝族| 97精品久久久久久久| 久久久久久九九九九| 桃花色涩综合影院| 死我十八禁| 亚洲精品无码久久AV| 天天干天天日天天射黄色片| 大香蕉乱级| 欧美一级欧美三级在线观看| 好爽视频在线观看| 黑丝少妇在线观看| 婷婷久草| juliaann丝袜| 观看免费区二区三区二| 韩国三级色呦呦| 大奶啊啊好爽| 青草精品视频-日本久久久久网站| 熟女人妻一区二区三区| 狠狠爱夜夜干| 色呦呦呦在线观看视频| 九一性生活免费视频| 日本色色视频网站| 欧美综合制服在线| 91精品久久久| 内射卯月麻衣| 国产精品秘 福利姬在线观看| 98福利在线视频| 亚洲av淫乱| 午夜九九| 操美女高潮抽搐白浆| 91宗合网| 天天操人人操骚逼网站| 亚洲精品中文字幕一区在线视频 | 激情五月天色播| 色在线视频导航| 91 丝袜在线观看| 激情综合婷婷| 国产精品视频内谢女人| 粉嫩av久久一区二区三区| 国产视频第2页| 日韩欧美女优电影| 人人操人人摸人人看人人干| 91久久国外网| 日本人体九九九九九九| 美女视频尤物网在线看| 欧美97免费| 色盈盈影院| 色丁香久久| 青青草吊丝| 久草大| 再深点灬舒服灬太大了添视频| 怡红院成人视频| 欧美大片91| 97国产精选| 韩国女主播青草在线| www超碰| 国产亚洲色停停久久99精品91| 97操综合| 99国产精品久久久久久久成人热| 免费一级毛片在线视频观看| 极品销魂美女一区二区| 欧美图片色五月天| 操逼精品视频| 99色悠悠| 97人人模人人爽人人| 日本操逼视频在线| 99re视频在线播放青草| 久久妇| 国产午夜视频| 日本一二区免费| 亚洲精品一区二区三区新线路| 女人被添高潮免费视频 | 日韩精品啪啪啪| 蜜区区视频79| 熟女熟妇伦久久影院毛片一区二区 | 色综合 加勒比| 色香伊人| 精品欧美日韩在线观看| 国产白丝在线| 亚洲色图加勒比| 久久一二区四| 熟妇熟女一区二三区| 无码精品久久久久久亚洲| 夜夜精品视频| 日韩免费a级毛片无码a∨| a级免费在线观看| 欧美99999| 狠狠操,使劲操| 欧美一区二区一级岛国大片| 国产精品永久免费10000| 操婢日韩| 国产精品人妻熟女aⅴ| A片三级无码| 一本道综合色图| oumeisetu综合| 亚洲 图片 综合91| 全国男人天堂网| 八戒午夜福利理论片| 成年人一级黄色毛片大全在线观看| 四虎影院成年人片| 青青草原人妻| 爱爱动态试试看6 0秒| 久久m| 久久9精品网站| 亚洲欧美碰碰| 国产美女口爆吞精视频| 370p日韩欧美亚洲精品| 日韩av一级黄片| av资源在线观看少妇| 爱爱动态120秒| 亚洲熟女一区| 夜夜高潮夜夜爽夜夜爱爱一区 | 熟女视频久久| 五月久久HDAV| 美女91av| 成人一二| 91精品久久久久久综合五月天| 欧美美女啪啪视频| 欧美色图亚洲色,麻豆| 男女做爰猛烈动高潮A片免费应用| 97国产高清视频在线观看| 999岛国大片| 久久水蜜臀亚洲AV无码精品| 久区视频| 欧美日韩精品一区二区三区高清| 日韩精品黄片免费观看| 美女裸体麻豆天美蜜桃91| 亚洲资源吧| 脫衣舞一区二区三区| 日韩人妻无码精品系列| 少妇无码999| 入口操逼网站| 性色av一区二区| 国产在线综合网| 日本三级中国三级99人妇网站| 蜜臀AV一区二区三区激情综合| 91色图片| 中文字幕免费看| 日韩三级在线观看网站| 精品妇女一区二区三区| 黄站在线免费观看| 91强热人妻| 超碰这里有精品| 最新啪啪视频| 国产一区二区在线看| 久久性视频| 美欧色综合| 天美麻豆精品视频99| 天天综合网~91| 国产乱伦性爱AV| 99少妇| 99re6久热只有精品6在线直播| 91性高朝久久久久久久久| 白 大 人妻 区 在线| 多毛小伙内射老太婆|