微软行星云计算Microsoft Planetary Computer 账号内测申请开通和如何根据自己的需求配置电脑环境(R/python/GIS等)

简介: 微软行星云计算Microsoft Planetary Computer 账号内测申请开通和如何根据自己的需求配置电脑环境(R/python/GIS等)


得益于前段时间去微软亚洲总部去参观,这里还有感谢以下CSDN,我正好和那里的工作人员交流开通了这个我之前申请一致没有通过的账户,现在终于可以开始了。

相较于GEE目前微软云平台没有在线支持JavaScript的界面,而是通过在线PYTHON和R语言以及Qgis等环境自动给你配置环境,然后直接跳转到你的工作页面。

点击左侧sign in 就可以登录你的账号,因为我这里默认的Microsoft账号就是我现在用的邮箱所以我就直接通过了。

Hub 提供多种环境来自定义您的计算环境。这决定了服务器的计算能力(CPU 内核、内存、GPU)和软件环境。提供python/R/pytorch/tensorflow/QGIS

选择一个环境,然后单击启动以启动您的服务器。当您的服务器上线时,您会看到一个进度条和一些日志。一旦准备就绪,您将被重定向到 Jupyterlab。


停止你的服务器

在集线器上完成会话后,请确保停止服务器以释放消耗的资源。从 Jupyterlab UI 中,选择文件 > 集线器控制面板。这将在https://pccompute.westeurope.cloudapp.azure.com/compute/hub/home 上打开一个新选项卡,可让您管理服务器。

选择停止我的服务器以停止您的服务器并释放您消耗的所有资源。

这里选择HUB control panel 选择停止我的服务器,云平台会自动停止似乎空闲的服务器。


使用 JupyterLab

JupyterLab用户指南详细介绍了JupyterLab用户界面。Hub 环境包括一些常见的扩展。

 

了解文件系统

您的服务器有一个主目录/home/jovyan/,您可以在其中存储本地文件。该目录跨会话持续存在;如果您在/home/jovyan/.

一切外界/home/jovyan没有跨会话持续。例如,如果您/srv/conda/envs/notebook通过手动ing 包对 Python 环境进行修改,则在停止和启动服务器后该新包将不可用。pip install

您应该只将代码、笔记本和分析文档存储在您的主目录中。值得注意的是,您不应在主目录中存储大量数据。相反,请改用Azure Blob 存储之类的东西(确保使用西欧区域,这是您的服务器运行的地方)。


环境变量

我们在您的服务器启动时设置了几个环境变量。

多变的

价值

描述

PC_SDK_SUBSCRIPTION_KEY

独一无二的你

用于对资产进行签名以下载数据。

GDAL_DISABLE_READDIR_ON_OPEN

EMPTY_DIR

使用 GDAL打开单个 COG 时提高 GDAL 性能

GDAL_HTTP_MERGE_CONSECUTIVE_RANGES

是的

通过合并连续的 HTTP 请求来提高 GDAL 性能


了解软件环境

您的软件环境由您在启动服务器时选择的环境决定。这是一个畅达环境位于/srv/conda/envs/notebook。该环境包含许多有助于地理空间数据分析的软件库,这些环境被定义并打包到行星计算机容器存储库中的 Docker 容器中。

可以在环境conda-linux-64.lock文件中查看可用的确切版本。例如,请参阅PythonR锁定文件。如果您有笔记本服务器在运行,您可以打开一个新终端并运行.conda list


在运行时安装额外的包

您可以在启动笔记本服务器后“在运行时”安装其他软件包。我们建议使用conda(特别是mamba求解器)安装额外的包,这将确保您的环境保持一致的状态。大多数已经存在的包都来自conda-forge频道,所以你应该更喜欢它.-c conda-forge

$ mamba install -c conda-forge r-rjson

conda是一个多语言包管理器,所以大多数 R 包都以r-. 您可以在https://conda-forge.org/feedstock-outputs/ 上搜索可用的软件包列表。如果包不存在,则考虑将其贡献给 conda-forge

或者,您可以尝试从PyPICRAN安装软件包,但请注意,可能无法识别现有软件包。

如前所述以上,改变你的home目录的环境之外会话之间不会保留。如果您pipconda安装了一个软件包,则下次启动服务器时它不会出现。如果您认为我们的环境缺少地理空间或可持续性数据分析中常用的包,请打开一个问题,要求我们添加它。


在运行时在 Dask 集群上安装包

如果您使用 Dask 进行可扩展计算,您应该确保您对本地软件环境所做的修改也出现在工作人员身上。Dask 提供了一个PipInstallPlugin来在 worker 启动时自动安装包

>>> from dask.distributed import PipInstall

>>> plugin = PipInstall(packages=["scikit-learn"], pip_options=["--upgrade"])

>>> client.register_worker_plugin(plugin)

请注意,这会减慢 worker 的启动速度,因为需要在 worker 开始执行任务之前找到并下载包。


集群限制

您可以创建的 Dask 集群的大小有一些限制。

  1. 每个 worker的最大内核数为 8,每个 worker的最大内存量为 64 GiB。这可确保工作人员适合用于工作人员的Standard_E8_v3 虚拟机
  2. 每个集群的最大核心数为 400
  3. 每个集群的最大内存量为 3200 GiB
  4. 每个集群的最大工作线程数为 400

默认设置为 1 个核心和每个工作器 8 GiB,这意味着在 50 个物理节点上限制 400 个工作器(每个节点有 8 个核心和 64 GiB 内存)。如果此限制对于您的用例来说太低,请给我们发送电子邮件

如果您尝试扩展超过每个工作程序的最大内核数或内存,则会引发异常,因为您请求的工作程序大于虚拟机可以处理的数量。

>>> gateway = dask_gateway.Gateway()

>>> options = gateway.cluster_options()

>>> options["worker_cores"] = 16

Traceback (most recent call last):

...

ValueError: worker_cores must be <= 8.000000, got 16.0

如果您尝试扩展超过每个集群的最大内核数、内存或工作程序数,您将看到警告并且集群将扩展到限制。

>>> cluster = gateway.new_cluster()

>>> cluster.scale(1_000)

GatewayWarning: Scale request of 1000 workers would exceed resource limit of 400 workers. Scaling to 400 instead.


福利:

最后这一切都不需要科学上网,是不是有剩下了一笔不小的花销,至于多会公开申请注册,我估计明年暑假前应该问题不大,大家夺取尝试。


相关文章
|
8月前
|
存储 监控 算法
监控电脑屏幕的帧数据检索 Python 语言算法
针对监控电脑屏幕场景,本文提出基于哈希表的帧数据高效检索方案。利用时间戳作键,实现O(1)级查询与去重,结合链式地址法支持多条件检索,并通过Python实现插入、查询、删除操作。测试表明,相较传统列表,检索速度提升80%以上,存储减少15%,具备高实时性与可扩展性,适用于大规模屏幕监控系统。
238 5
|
监控 算法 安全
深度洞察内网监控电脑:基于Python的流量分析算法
在当今数字化环境中,内网监控电脑作为“守城卫士”,通过流量分析算法确保内网安全、稳定运行。基于Python的流量分析算法,利用`scapy`等工具捕获和解析数据包,提取关键信息,区分正常与异常流量。结合机器学习和可视化技术,进一步提升内网监控的精准性和效率,助力企业防范潜在威胁,保障业务顺畅。本文深入探讨了Python在内网监控中的应用,展示了其实战代码及未来发展方向。
|
10月前
|
JSON 编解码 数据安全/隐私保护
电脑录制鼠标键盘脚本,鼠标动作录制脚本,万能脚本录制器【python】
完整功能:实现鼠标移动、点击和键盘操作的录制与回放 数据持久化:将录制的动作序列保存为JSON文件
|
10月前
|
Linux 数据安全/隐私保护 Python
一键修改电脑机器码, 软件机器码一键修改工具, 机器码重置工具【python】
该工具实现了完整的机器码生成、加密、验证功能 使用系统硬件信息生成唯一机器码
|
10月前
|
JSON 数据安全/隐私保护 数据格式
电脑录制鼠标键盘脚本, 鼠标录制器免费版电脑版, 鼠标键盘录制工具【python】
这个Python脚本实现了一个完整的鼠标键盘录制工具,具有以下功能特点: 可以录制鼠标移动、点击和键盘按键操作
|
测试技术 API Python
【10月更文挑战第1天】python知识点100篇系列(13)-几种方法让你的电脑一直在工作
【10月更文挑战第1天】 本文介绍了如何通过Python自动操作鼠标或键盘使电脑保持活跃状态,避免自动息屏。提供了三种方法:1) 使用PyAutoGUI,通过安装pip工具并执行`pip install pyautogui`安装,利用`moveRel()`方法定时移动鼠标;2) 使用Pymouse,通过`pip install pyuserinput`安装,采用`move()`方法移动鼠标绝对位置;3) 使用PyKeyboard,同样需安装pyuserinput,模拟键盘操作。文中推荐使用PyAutoGUI,因其功能丰富且文档详尽。
488 0
|
监控 算法 安全
公司电脑网络监控场景下 Python 广度优先搜索算法的深度剖析
在数字化办公时代,公司电脑网络监控至关重要。广度优先搜索(BFS)算法在构建网络拓扑、检测安全威胁和优化资源分配方面发挥重要作用。通过Python代码示例展示其应用流程,助力企业提升网络安全与效率。未来,更多创新算法将融入该领域,保障企业数字化发展。
311 10
|
监控 算法 安全
基于 Python 广度优先搜索算法的监控局域网电脑研究
随着局域网规模扩大,企业对高效监控计算机的需求增加。广度优先搜索(BFS)算法凭借其层次化遍历特性,在Python中可用于实现局域网内的计算机设备信息收集、网络连接状态监测及安全漏洞扫描,确保网络安全与稳定运行。通过合理选择数据结构与算法,BFS显著提升了监控效能,助力企业实现智能化的网络管理。
274 7
|
存储 运维 监控
探索局域网电脑监控软件:Python算法与数据结构的巧妙结合
在数字化时代,局域网电脑监控软件成为企业管理和IT运维的重要工具,确保数据安全和网络稳定。本文探讨其背后的关键技术——Python中的算法与数据结构,如字典用于高效存储设备信息,以及数据收集、异常检测和聚合算法提升监控效率。通过Python代码示例,展示了如何实现基本监控功能,帮助读者理解其工作原理并激发技术兴趣。
310 20
|
存储 算法 数据安全/隐私保护
探究办公室电脑怎么共享文件的 Python 算法
在数字化办公环境中,高效文件共享是提升工作效率的关键。本文聚焦于使用Python实现办公室电脑文件共享的算法,涵盖需求分析、基础实现及优化拓展。通过socket编程和文件流操作,实现文件传输,并探讨多线程、权限管理和文件索引等优化措施,确保文件共享的安全性和便捷性,助力现代办公协同。

推荐镜像

更多