Seqtk、Seqkit两个处理fa/fq神器的学习记录

简介: Seqtk、Seqkit两个处理fa/fq神器的学习记录

Seqtk、Seqkit两个处理fa/fq神器的学习记录


Seqtk

安装  # Conda也可

git clone https://github.com/lh3/seqtk
    cd seqtk
    make

1.将fastq 文件转换成fasta 文件

seqtk seq -A input.fastq  > output.fasta

2.得到反向互补序列

seqtk seq -Ar input.fastq > output.fasta

3.seqtk comp: 得到fastq/fasta 文件的碱基组成

(输出格式:序列id 序列长度    A   C   G   T  )

seqtk comp in.fa > out.fa

4.subseq 根据name.list(不带>符号)提取子序列 -l可设定输出的每行长度

seqtk subseq -l 40 B1_NR100nl.fasta name.list > out.fa

5.随机抽取序列,按照比例或者数量  -s设定随机种子,便于重复

seqtk sample -s 10 test.fq 0.4 #比例
seqtk sample -s 10 test.fq 100 #数量

6.重命名 会将序列id变为从1到n....

seqtk rename in.fa <前缀> > out.fa

7..fastq转换为fasta,支持压缩格式

seqtk seq -a in.fq.gz > out.fa.gz

8.使用Phred算法从两端修剪低质量的碱基:

seqtk trimfq in.fq > out.fq

9.从每个读数的左端修剪5bp,从右端修剪10bp

seqtk trimfq -b 5 -e 10 in.fa > out.fa

10.合并两个序列,通常我们Illunima双端测序会得到两个文件R1.fq.gz和R2.fq.gz,这个命令就是帮助怎么完美实现两两配对

$seqtk mergefa
Usage: seqtk mergefa [options] <in1.fa> <in2.fa># 合并两个的FASTA/Q files
Options: -q INT   quality threshold [0]
         -i       take intersection#取交集
         -m       convert to lowercase when one of the input base is N
         -r       pick a random allele from het
         -h       suppress hets in the input
  1. cutN 去掉序列中的N/或者查看N所在的位置信息(-n 指定N的最小长度) -g 只打印出位置信息

Usage:   seqtk cutN [options] <in.fa>
Options: -n INT    min size of N tract [1000]
         -p INT    penalty for a non-N [10]
         -g        print gaps only, no sequence

Seqkit

这个软件真的feel good,现有的轮子就不用再去造了,只记录一些常用的小命令,后续用到再进行更新,大家可以去原网页学习完整教程,点Here

1.seq子命令  读,换, 查看类型,统计基本信息

seqkit seq hairpin.fa.gz #查看
cat in.fa | seqkit stats #自动检测类型并给出统计信息
file  format  type  num_seqs  sum_len  min_len  avg_len  max_len
-     FASTA   RNA          1       11       11       11       11
seqkit stats *.f{a,q}.gz -T | csvtk pretty -t #可以统计多个fa/fq信息,结果形式更加友好
#  -j 参数会并行运算更快速度
seqkit seq hairpin.fa.gz -n #打印序列ID全名
seqkit seq hairpin.fa.gz -n  -i #只打印ID
seqkit seq hairpin.fa.gz -n -i --id-regexp ...  #通过正则去打印ID中内容(适用于所有的子命令)
seqkit seq hairpin.fa.gz -s -w 0 #只打印序列(全局标志-w定义输出行宽,0表示不换行)
seqkit seq reads_1.fq.gz -w 0 #转换多行fq为单行fq
seqkit seq hairpin.fa.gz -r -p #反向互补
echo -e ">seq\nACGT-ACTGC-ACC" | seqkit seq -g -u #移除gap
cat hairpin.fa | seqkit seq -m 100 -M 1000 | seqkit stats #过滤序列长度并进行统计

2. subseq子命令

前12碱基
$ zcat hairpin.fa.gz | seqkit subseq -r 1:12
后12碱基
zcat hairpin.fa.gz | seqkit subseq -r -12:-1
过滤前后12碱基
zcat hairpin.fa.gz | seqkit subseq -r 13:-13
通过gtf文件得到序列
seqkit subseq --gtf t.gtf t.fa
通过bed文件得到序列并移除重复序列
seqkit subseq --bed Homo_sapiens.GRCh38.84.bed.gz --chr 1 hsa.fa  | seqkit rmdup > chr1.bed.rmdup.fa

3. sliding

sliding sequences, circular genome supported
Usage:
  seqkit sliding [flags]
Flags:
  -C, --circular-genome   circular genome.
  -g, --greedy            greedy mode, i.e., exporting last subsequences even shorter than windows size
  -s, --step int          step size
  -W, --window int        window size

4.faidx (类似samtools中的faidx)

Usage:
  seqkit faidx [flags] <fasta-file> [regions...]
Flags:
  -f, --full-head     print full header line instead of just ID. New fasta index file ending with .seqkit.fai will be created
  -h, --help          help for faidx
  -i, --ignore-case   ignore case
  -r, --use-regexp    IDs are regular expression. But subseq region is not suppored here.
seqkit faidx tests/hairpin.fa hsa-let-7a-1 hsa-let-7a-2  #提取指定序列  -f 输出ID全名 1:10 输出相应位置序列

5.fq转换fa

seqkit fq2fa reads_1.fq.gz -o reads_1.fa.gz

6.将FASTA/Q转换为表格格式,并提供各种信息,

如序列长度 GC

$ seqkit fx2tab hairpin.fa.gz -l -g -n -i -H | head -n 4 | csvtk -t -C '&' pretty
#name       seq   qual   length   GC
cel-let-7                99       43.43
cel-lin-4                94       54.26
cel-mir-1                96       40.62
#两种形式转换
zcat hairpin.fa.gz | seqkit fx2tab | seqkit tab2fx
#按照长度排列序列
 seqkit sort -l hairpin.fa.gz
#得到前1000条reads
 seqkit fx2tab hairpin.fa.gz | head -n 1000 | seqkit tab2fx

7. grep序列

zcat hairpin.fa.gz | seqkit grep -r -p ^hsa #提取ID开头为hsa的reads  -v取想反
zcat hairpin.fa.gz | seqkit grep -f list > new.fa #根据list取子集
cat hairpin.fa.gz | seqkit grep -s -i -p aggcg #提取序列里有AGGCG的reads  -m 允许误配的数量
zcat hairpin.fa.gz | seqkit grep -s -r -i -p TT[CG]AA  #带有模糊碱基的序列匹配    -R 1:30取前30 个碱基

8.duplicate

cat tests/hairpin.fa | seqkit head -n 1 \
    | seqkit duplicate -n 2  #重复序列2次

9.rmdup

移除重复序列 by id/name/sequence
Usage:
  seqkit rmdup [flags]
Flags:
  -n, --by-name                by full name instead of just id
  -s, --by-seq                 by seq
  -D, --dup-num-file string    file to save number and list of duplicated seqs
  -d, --dup-seqs-file string   file to save duplicated seqs
  -h, --help                   help for rmdup
  -i, --ignore-case            ignore case

10. sample

zcat hairpin.fa.gz | seqkit sample -p 0.1 -o sample.fa.gz #按照比例取序列
 zcat hairpin.fa.gz | seqkit sample -n 1000 -o sample.fa.gz #按照数量

11. rename

cat in.fa | less  #和seqtk中rename的区别是前者会从1到n重新排序,后者是对后来重复的内容加_2到_n的后缀
>a comment
acgt
>b comment of b
ACTG
>a_2 a comment
aaaa

OK,相信大家应该体会到这俩个软件的强大之处了,学好会省去你不少的time快去练习吧~


相关文章
如何用vcftools从VCF文件中提取某条染色体信息
如何用vcftools从VCF文件中提取某条染色体信息
XP-CLR分析笔记丨检测不同种群之间由于选择引起的差异信息,群体遗传学经典方法
XP-CLR分析笔记丨检测不同种群之间由于选择引起的差异信息,群体遗传学经典方法
|
开发框架 JavaScript 前端开发
百度富文本编辑器配置(vue3)
百度富文本编辑器配置(vue3)
|
12月前
|
存储 SQL 机器学习/深度学习
sentieon | 泛基因组分析流程详解
泛基因组:指的是一个物种所有个体中全部基因的集合。它不再依赖于单个参考基因组,而是承认没有任何一个个体能够拥有其物种的全部基因。
967 1
都8102年了,还用fastq-dump,快换fasterq-dump吧
之前写过一篇文章Fastq-dump: 一个神奇的软件, 详细介绍了fastq-dump的用法。 虽然fastq-dump参数很多,而且一直被吐槽参数说明写的太差,但是如果真的要用起来其实也就是一行代码 fastq-dump --gzip --split-3 --defline-qual &#39;+&#39; --defline-seq &#39;@$ac-$si/$ri&#39; SRRXXXXX| SRRXXXX.sra # 加上--gzip后需要时间进行文件压缩 当然除了参数问题,还有一个让人诟病的地方就是他只能单个线程,所以速度特别的慢。
5860 0
都8102年了,还用fastq-dump,快换fasterq-dump吧
|
Ubuntu Linux Shell
Sentieon软件快速入门指南
Sentieon为纯CPU计算加速软件,完全适配主流CPU计算架构:Intel、AMD、海光等X86架构CPU,华为鲲鹏、阿里倚天等ARM架构CPU。可灵活部署在实验室单机工作站、HPC集群、超算中心和云计算中心,保持同一套流程下不同规模数据计算结果的一致性。Sentieon软件团队拥有丰富的软件开发及算法优化工程经验,致力于解决生物数据分析中的速度与准确度瓶颈,为来自于分子诊断、药物研发、临床医疗、人群队列、动植物等多个领域的合作伙伴提供高效精准的软件解决方案,共同推动基因技术的发展。
996 4
Sentieon软件快速入门指南
基因组组装:Hifiasm 使用教程
基因组组装:Hifiasm 使用教程
2160 1
|
存储 Java
BBTools-bbduk安装使用
BBTools-bbduk安装使用
1120 0
|
Perl
技术笔记:samtools统计重测序数据深度depth、depth
技术笔记:samtools统计重测序数据深度depth、depth
1049 0
|
数据可视化 数据挖掘 Python
跟着Nature Communications学数据分析:基因组水平的比对鉴定结构变异
跟着Nature Communications学数据分析:基因组水平的比对鉴定结构变异

热门文章

最新文章