跟着Science学数据分析:利用三代测序数据(PacBio)鉴定结构变异

简介: 跟着Science学数据分析:利用三代测序数据(PacBio)鉴定结构变异

论文

De novo assembly, annotation, and comparative analysis of 26 diverse maize genomes

https://www.science.org/doi/10.1126/science.abg5289

玉米science.pdf

玉米science补充材料.pdf

数据代码链接

https://zenodo.org/record/4781590#.ZBfBLcJBzic

github

https://github.com/HuffordLab/NAM-genomes/tree/v0.1

因为玉米的数据太大了,这里我用拟南芥的数据,拟南芥的数据来源于论文

https://www.nature.com/articles/s41467-020-14779-y

PRJEB31147

根据Project ID获取所有的SRA number

esearch -db sra -query PRJEB31147 | efetch -format runinfo | grep 'PACBIO' | awk -F "," '{print $1","$12}'

image.png

每个样本都有两个数据,还有一个样本是3个数据,每个样本只下载一个数据

用ffq这个工具根据SRA id获取ftp下载链接

ffq ERR3415817
ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/007/ERR3415817/ERR3415817_subreads.fastq.gz

ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/009/ERR3415819/ERR3415819_subreads.fastq.gz

ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/001/ERR3415821/ERR3415821_subreads.fastq.gz

ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/003/ERR3415823/ERR3415823_subreads.fastq.gz

ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/007/ERR3415827/ERR3415827_subreads.fastq.gz

ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/005/ERR3415825/ERR3415825_subreads.fastq.gz

ftp://ftp.sra.ebi.ac.uk/vol1/fastq/ERR341/000/ERR3415830/ERR3415830_subreads.fastq.gz

获取到链接地址以后在本地开着科学上网工具下载,暂时想不到其他比较好的下载方法了

science论文里会把每个fq/fa进行拆分,分别比对,然后再合并bam文件,这个拟南芥的数据量也不大,直接比对吧,不拆分了,science论文里用到的拆分脚本是 fasta-splitter.pl

下载有点慢 就下了三个数据

比对用到到的是ngmlr,安装直接用conda

ngmlr --reference TAIR10_chr_all.fas --query ../pacbio.fq/ERR3415817_subreads.fastq.gz --presets pacbio --output An_1.sam --bam-fix --no-progress --threads 8

ngmlr --reference TAIR10_chr_all.fas --query ../pacbio.fq/ERR3415821_subreads.fastq.gz --presets pacbio --output Cvi.sam --bam-fix --no-progress --threads 8

ngmlr --reference TAIR10_chr_all.fas --query ../pacbio.fq/ERR3415823_subreads.fastq.gz --presets pacbio --output Eri.sam --bam-fix --no-progress --threads 8

这个速度很慢 一个样本需要运行2个小时左右

这个输出的sam文件用samtools操作的的时候还报错了,暂时不知道什么原因,把数据减小,重新比对下试试

zcat ERR3415817_subreads.fastq.gz | seqkit sample -p 0.2 -o An_1.fq
ngmlr --reference TAIR10_chr_all.fas --query ../pacbio.fq/An_1.fq --output An_1p2.sam --threads 8
samtools sort -@ 8 -o An_1p2.sorted.bam An_1p2.sam

报错

samtools sort: truncated file. Aborting

暂时没有查到是什么原因,换minimap2软件比对试试

minimap2 -ax map-pb TAIR10_chr_all.fas ../pacbio.fq/An_1.fq > An_1.sam
samtools sort -@ 4 -o An_1.sorted.bam An_1.sam

这个就没有遇到报错

samtools view -@ 4 -b -o An_1.bam An_1.sam

sam转bam也没问题

以上流程写了一个snakemake

SAMPLES, = glob_wildcards("{sample}_subreads.fastq.gz")

print(SAMPLES)

rule all:
    input:
        #expand("{sample}.sam",sample=SAMPLES)
        expand("{sample}.sorted.bam.bai",sample=SAMPLES)

rule b_minimap2:
    input:
        fq = "{sample}_subreads.fastq.gz",
        fa = "TAIR10_chr_all.fas"
    output:
        "{sample}.sam"
    threads:
        4
    shell:
        """
        minimap2 -ax map-pb {input.fa} {input.fq} > {output}
        """

#https://github.com/HuffordLab/NAM-genomes/blob/master/structural-variation/sv-calling/runSAMcleaner.sh
rule d_samtools_view:
    input:
        rules.b_minimap2.output
    output:
        "{sample}.bam"
    threads:
        4
    shell:
        """
        samtools view -@ {threads} -b -o {output} {input}
        """

rule e_samtools_sort:
    input:
        rules.d_samtools_view.output
    output:
        "{sample}.sorted.bam"
    threads:
        4
    shell:
        """
        samtools sort -@ {threads} -o {output} {input}
        """

rule f_samtools_index:
    input:
        rules.e_samtools_sort.output
    output:
        "{sample}.sorted.bam.bai"
    threads:
        4
    shell:
        """
        samtools index {input}
        """

比对好以后用sniffles

使用conda安装

conda install sniffles

这个最新的已经是2点几的版本了,science论文里用到的是1点几的版本,很多参数已经不一样了

2.几版本用到的命令是

sniffles --input ERR3415823.sorted.bam --snf ERR3415823.snf --threads 12
sniffles --input ERR3415821.sorted.bam --snf ERR3415821.snf --threads 12
sniffles --input ERR3415817.sorted.bam --snf ERR3415817.snf --threads 12

sniffles --input ERR3415817.snf ERR3415821.snf ERR3415823.snf --vcf multisample.vcf

sniffles --input ERR3415817.sorted.bam --genotype-vcf multisample.vcf --vcf ERR3415817_genotypes.vcf

这个运行速度很快

还有一个问题是 这个多样本的vcf文件里每个sample里是有GT 信息的,那么还需要单独再运行最后一个命令吗?

看下sniffles的论文本帮助文档

单独安装一个和science论文里一样版本的sniffles 1.0.11 现在安装的是2.0.7

conda install sniffles=1.0.11 -y

这个安装在了sv这个环境里

sniffles --threads 12 --mapped_reads ERR3415817.sorted.bam --max_distance 1000 --min_support 10 --min_length 100 --min_seq_size 5000 --vcf ERR3415817_r1.vcf

报错

No MD string detected! Check bam file! Otherwise generate using e.g. samtools.

https://github.com/fritzsedlazeck/Sniffles/issues/58

在使用minimap2比对的时候需要加参数

用samtools

samtools calmd -b ERR3415817.sorted.bam TAIR10_chr_all.fas > abc.sorted.ba
sniffles --threads 12 --mapped_reads abc.sorted.bam --max_distance 1000 --min_support 10 --min_length 100 --min_seq_size 5000 --vcf ERR3415817_r1.vcf

这样是可以得到结果的

查samtools的帮助文档的时候

http://www.htslib.org/doc/samtools-calmd.html

运行这个命令

samtools calmd -bAr aln.bam > aln.baq.bam

是有报错的 samtools calmd: BAQ alignment failed: Numerical result out of range 暂时不理解这些参数的意思

可以参考这个链接 https://www.jianshu.com/p/68f6e35fa4a2 有时间仔细看看

samtools calmd -b ERR3415821.sorted.bam TAIR10_chr_all.fas > sample21.sorted.bam
samtools calmd -b ERR3415823.sorted.bam TAIR10_chr_all.fas > sample23.sorted.bam

sniffles --threads 12 --mapped_reads sample21.sorted.bam --max_distance 1000 --min_support 10 --min_length 100 --min_seq_size 5000 --vcf ERR3415821_r1.vcf

sniffles --threads 12 --mapped_reads sample23.sorted.bam --max_distance 1000 --min_support 10 --min_length 100 --min_seq_size 5000 --vcf ERR3415823_r1.vcf

合并第一轮的vcf

 ls *_r1.vcf > vcf.fofn
SURVIVOR merge vcf.fofn 1000 1 1 -1 -1 -1 survivor_merged_1kbdist_r1.vcf

运行第二轮的sniffles

sniffles --threads 12 --mapped_reads abc.sorted.bam --Ivcf survivor_merged_1kbdist_r1.vcf --vcf sample17_r2.vcf
sniffles --threads 12 --mapped_reads sample21.sorted.bam --Ivcf survivor_merged_1kbdist_r1.vcf --vcf sample21_r2.vcf
sniffles --threads 12 --mapped_reads sample23.sorted.bam --Ivcf survivor_merged_1kbdist_r1.vcf --vcf sample23_r2.vcf

合并

ls sample*_r2.vcf > vcf_r2.fofn
SURVIVOR merge vcf_r2.fofn 1000 -1 1 -1 -1 -1 survivor_merged_1kbdist_r2.vcf

第二轮合并后的vcf和第一轮合并的vcf有啥区别暂时看不出来

欢迎大家关注我的公众号

小明的数据分析笔记本

小明的数据分析笔记本 公众号 主要分享:1、R语言和python做数据分析和数据可视化的简单小例子;2、园艺植物相关转录组学、基因组学、群体遗传学文献阅读笔记;3、生物信息学入门学习资料及自己的学习笔记!

微信公众号好像又有改动,如果没有将这个公众号设为星标的话,会经常错过公众号的推文,个人建议将 小明的数据分析笔记本 公众号添加星标,添加方法是

点开公众号的页面,右上角有三个点

image.png

点击三个点,会跳出界面

image.png

直接点击 设为星标 就可以了

image.png

相关文章
|
2月前
|
数据采集 数据可视化 数据挖掘
多维数据分析:使用Pandas进行复杂的数据操作和聚合
【4月更文挑战第12天】Pandas是Python的强大数据分析库,提供DataFrame数据结构进行多维数据处理。本文介绍了使用Pandas进行多维数据分析的流程:1) 导入数据(如CSV、Excel);2) 数据预处理,包括缺失值处理和类型转换;3) 数据探索,利用describe()、hist()、plot()等进行统计和可视化;4) 数据操作,如筛选、排序和分组;5) 数据聚合,通过groupby()和agg()进行计算。文中还给出了电商数据分析的案例,展示Pandas在实际应用中的价值。
|
2月前
|
人工智能 监控 数据可视化
【Python】Python商业公司贸易业务数据分析可视化(数据+源码)【独一无二】
【Python】Python商业公司贸易业务数据分析可视化(数据+源码)【独一无二】
|
2月前
|
存储 分布式计算 搜索推荐
【专栏】数据之海,分布式计算、数据存储与管理、数据分析与挖掘成为关键技术
【4月更文挑战第27天】在大数据时代,数据量爆炸性增长、类型多样及处理速度需求提升带来挑战。分布式计算、数据存储与管理、数据分析与挖掘成为关键技术,如Hadoop、Spark、HDFS、NoSQL等。实际应用包括互联网搜索、推荐系统、金融科技、智能城市等领域,大规模数据处理发挥关键作用,持续推动创新与奇迹。
|
2月前
|
数据可视化 前端开发 数据挖掘
R语言对综合社会调查GSS数据进行自举法bootstrap统计推断、假设检验、探索性数据分析可视化|数据分享(上)
R语言对综合社会调查GSS数据进行自举法bootstrap统计推断、假设检验、探索性数据分析可视化|数据分享
|
2月前
|
SQL 数据采集 存储
Hive实战 —— 电商数据分析(全流程详解 真实数据)
关于基于小型数据的Hive数仓构建实战,目的是通过分析某零售企业的门店数据来进行业务洞察。内容涵盖了数据清洗、数据分析和Hive表的创建。项目需求包括客户画像、消费统计、资源利用率、特征人群定位和数据可视化。数据源包括Customer、Transaction、Store和Review四张表,涉及多个维度的聚合和分析,如按性别、国家统计客户、按时间段计算总收入等。项目执行需先下载数据和配置Zeppelin环境,然后通过Hive进行数据清洗、建表和分析。在建表过程中,涉及ODS、DWD、DWT、DWS和DM五层,每层都有其特定的任务和粒度。最后,通过Hive SQL进行各种业务指标的计算和分析。
335 1
Hive实战 —— 电商数据分析(全流程详解 真实数据)
|
2月前
|
数据采集 数据可视化 数据挖掘
Python 与 PySpark数据分析实战指南:解锁数据洞见
Python 与 PySpark数据分析实战指南:解锁数据洞见
|
2月前
|
机器学习/深度学习 数据采集 数据挖掘
Python 的科学计算和数据分析: 解释什么是数据规整(Data Wrangling)?
【4月更文挑战第15天】数据规整是将原始数据转化为适合分析和建模的格式的关键步骤,涉及缺失值处理(删除、填充、插值)、异常值检测与处理、数据类型转换、重采样、数据合并、特征选择和特征变换等任务。这些预处理步骤确保数据质量和准确性,为后续的数据分析和机器学习模型构建奠定基础。
36 4
|
2月前
|
存储 机器学习/深度学习 数据采集
数据分析师如何处理数据以进行分析?
【4月更文挑战第4天】数据分析师如何处理数据以进行分析?
28 9
|
2月前
|
机器学习/深度学习 数据可视化 算法
数据分析师如何处理缺失值和错误数据?
【4月更文挑战第4天】数据分析师如何处理缺失值和错误数据?
25 6
|
2月前
|
前端开发 数据可视化 数据挖掘
R语言对综合社会调查GSS数据进行自举法bootstrap统计推断、假设检验、探索性数据分析可视化|数据分享(下)
R语言对综合社会调查GSS数据进行自举法bootstrap统计推断、假设检验、探索性数据分析可视化|数据分享

热门文章

最新文章