【大数据环境准备】(二)环境变量设置

简介: 环境变量设置

1、设置服务器名称

[centos@hadoop11 /]$ cat /etc/hostname 
hadoop11

2、设置DNS地址

[centos@hadoop11 /]$ cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.31.10 hadoop10
192.168.31.11 hadoop11

3、设置自动复制脚本

[centos@hadoop11 data]$ cat xsync


#!/bin/bash
#1. 判断参数个数
if [ $# -lt 1 ]
then
  echo Not Enough Arguement!
  exit;
fi
#2. 遍历集群所有机器
for host in hadoop10
do
  echo ====================  $host  ====================
  #3. 遍历所有目录,挨个发送
  for file in $@
  do
    #4 判断文件是否存在
    if [ -e $file ]
    then
      #5. 获取父目录
      pdir={
   mathJaxContainer[0]}(dirname $file); pwd)
      #6. 获取当前文件的名称
      fname={
   mathJaxContainer[1]}file)
      ssh {
   mathJaxContainer[2]}pdir"
      rsync -av {
   mathJaxContainer[3]}fname {
   mathJaxContainer[4]}pdir
    else
      echo $file does not exists!
    fi
  done
done

[centos@hadoop11 data]$ chmod -X xsync

首先进行xsync 拷贝 执行命令[centos@hadoop11 data]$ /data/xsync xsync

注意:项目拷贝主机账号权限需要保持一样使用chown -R centos:centos dir

4、环境变量

登录shell 和非登录shell区别

登录shell加载的环境文件 /etc/profile ~/.bash_profile ~/.bashhrc

非登录shell 只加载 ~/.bashrc

所以只需要改~/.bashrc 关联的/etc/profile.d/*.sh 文件保持两种登录方式都可以登录

5、免密登录

1)生成密钥对 ssh-keygen -t rsa 连续回车三次.根目录下.ssh会生成公私密钥对
2)发送公钥至主机ssh-copy-id centos@hadoop11 11的ssh文件会将该密钥追加至authorized_keys文件

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
8月前
|
大数据 Linux 数据安全/隐私保护
大数据快速搭建环境
大数据快速搭建环境
133 0
|
8月前
|
大数据 Linux 数据安全/隐私保护
基于Docker搭建大数据集群(一)Docker环境部署
基于Docker搭建大数据集群(一)Docker环境部署
|
1天前
|
分布式计算 DataWorks 大数据
MaxCompute产品使用合集之在MaxCompute中环境变量该怎么设置
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
1天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之大数据计算MaxCompute先设置了*,手动移除了一个表A,后续加个表B,B是否会自动出现在package里
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
7月前
|
SQL 安全 Java
开启 Kerberos 安全认证的大数据环境中如何正确指定 HS2 的 jdbc url 地址?
开启 Kerberos 安全认证的大数据环境中如何正确指定 HS2 的 jdbc url 地址?
|
4月前
|
缓存 Java 大数据
CDH大数据环境参数优化指南
CDH大数据环境参数优化指南
|
9月前
|
NoSQL 大数据 测试技术
|
5月前
|
SQL 分布式计算 Hadoop
最新大数据集群安装方法CentOS7.6__大数据环境安装和配置
最新大数据集群安装方法CentOS7.6__大数据环境安装和配置
147 0
|
5月前
|
存储 SQL 分布式计算
请问大数据计算MaxCompute建表时怎么给decimal类型的字段设置默认值为0?
请问大数据计算MaxCompute建表时怎么给decimal类型的字段设置默认值为0?
54 0
|
5月前
|
安全 Java 大数据
elasticsearch|大数据|elasticsearch低版本集群的部署安装和安全增强---密码设置问题
elasticsearch|大数据|elasticsearch低版本集群的部署安装和安全增强---密码设置问题
43 0

热门文章

最新文章