Lain's Blog

藏剑于身 待时而动


  • 首页

  • 归档

  • 标签

  • 留言板

  • 搜索
close
Lain's Blog

s3fs使用指南

发表于 2016-12-06 | 分类于 技术 | | 阅读次数

概述

KS3(Kingsoft Standard Storage Service)服务是一个对象存储类服务。类似于网盘,可以通过网络随时随地的获取存储数据。金山云为用户管理KS3存储桶提供了两种控制管理方式:金山云的后台Consol、金山云官方KS3的SDK。

相比于以上两种使用场景,在实际的开发应用中,常常还有这样的场景:把KS3存储桶mount到本地文件系统,使得用户可以像操作文件目录一样操作KS3的对象。

本节所介绍的S3FS fuse,就是这么一款工具;针对linux操作系统,帮助用户把KS3的桶mount到本地文件系统,使得用户操作存储桶里的数据就如同操作本地文件一样方便。

阅读全文 »
Lain's Blog

Rclone使用指南

发表于 2016-11-28 | 分类于 技术 | | 阅读次数

概述

Rclone是一款的命令行工具,支持在不同对象存储、网盘间同步、上传、下载数据。

支持的主流对象存储:

Google Drive
Amazon S3
Openstack Swift / Rackspace cloud files / Memset Memstore
Dropbox
Google Cloud Storage
Amazon Drive
Microsoft One Drive
Hubic
Backblaze B2
Yandex Disk
The local filesystem

阅读全文 »
Lain's Blog

基于Jenkins、Gitlab构建持续集成、持续交付的Docker容器集群

发表于 2016-11-14 | 分类于 技术 | | 阅读次数

概述

基于Jenkins、Gitlab构建持续集成、持续交付的Docker容器集群。

阅读全文 »
Lain's Blog

基于KS3、Harbor搭建企业级的Docker

发表于 2016-11-07 | 分类于 技术 | | 阅读次数

概述

Harbor 是 VMware 中国开发的一款 Docker Registry 工具,其主要致力于企业级的 Registry 管理,并提供了 LDAP 等高级权限认证功能。

KS3(Kingsoft Standard Storage Service)是金山云为企业用户提供的无限制、多备份、分布式的低成本存储空间服务,解决存储扩容、数据可靠安全以及分布式访问等相关复杂问题。

本文介绍了如何使用基于KS3存储搭建Harbor企业级的Registry镜像仓库管理。

阅读全文 »
Lain's Blog

搭建Kubernetes1.4集群

发表于 2016-10-22 | 分类于 技术 | | 阅读次数

概述

Kubernetes 1.4引入了kubeadm的部署机制,极大地简化了Kubernetes集群的构建,可以很方便地集成到自动化运维中(Terraform, Chef, Puppet等)。

kubeadm还处于alpha版本,替换之前kube-up.sh,用于集群的创建和节点的增加。

阅读全文 »
Lain's Blog

VMware收缩Linux虚拟机体积

发表于 2015-12-26 | 分类于 技术 | | 阅读次数

虚拟机使用一段时间后体积会越来越大,特别是进行了大程序编译等很占空间的行为后,虚拟磁盘文件经常会占用数十个G的空间。而且就算之后删除了无用文件,虚拟磁盘文件的体积也不会自动缩小。此时,就需要借助VMware Tools进行磁盘空间收缩。

在正确安装了VMware Tools 的前提下,root 账户下执行一下命令:

1
vmware-toolbox-cmd disk shrink /

命令中最后一个参数是虚拟磁盘的挂载点,一般就是 / 。最后若是出现 “disk shrinking complete” 即代表压缩完成,此时在WIndows资源管理器中即可看到虚拟磁盘文件的体积显著缩小,基本上就与虚拟机实际已使用空间一样大(可使用 df 确认)。

若输入上述命令后,提示 “Shrink disk is disabled for this virtual machine.”, 需要检查是否存在快照(snapshot)、是否被预分配(preallocated)、是否存在不能收缩的物理硬盘等情况。

Lain's Blog

Gevent简明教程

发表于 2015-11-28 | 分类于 技术 | | 阅读次数

前述

进程 线程 协程 异步

并发编程(不是并行)目前有四种方式:多进程、多线程、协程和异步。

  • 多进程编程在python中有类似C的os.fork,更高层封装的有multiprocessing标准库
  • 多线程编程python中有Thread和threading
  • 异步编程在linux下主+要有三种实现select,poll,epoll
  • 协程在python中通常会说到yield,关于协程的库主要有greenlet,stackless,gevent,eventlet等实现。
阅读全文 »
Lain's Blog

Elasticsearch配置及优化

发表于 2014-12-15 | 分类于 技术 | | 阅读次数

环境变量

在es启动脚本里(elasticsearch.in.sh或elasticsearch.in.bat),内置了传递给JVM的启动参数JAVA_OPTS。其中最重要的参数是 -Xmx 和 -Xms,分别用来控制分配给es进程的最大内存、最小内存。(一般来说内存越多越好)

通常来说,JAVA_OPTS使用默认值不要修改,而是通过ES_JAVA_OPTS环境变量来设置和修改JVM配置参数。

ES_HEAP_SIZE环境变量用来设置分配给es的java进程的堆内存,设置了ES_HEAP_SIZE变量它也会同事设置最小、最大内存。也可以单独分别设置ES_MIN_MEM、ES_MAX_MEM参数来决定分配的最小、最大内存。

推荐最小、最大内存设置成相同值,并且打开mlockall开关。

阅读全文 »
Lain's Blog

搜索引擎调研

发表于 2014-12-14 | 分类于 技术 | | 阅读次数

ElasticSeach

简介

ElasticSearch是一个实时的分布式搜索和分析引擎。它可以帮助你用前所未有的速度去处理大规模数据。
它可以用于全文搜索,结构化搜索以及分析,当然你也可以将这三者进行组合。
ElasticSearch是一个建立在全文搜索引擎Apache Lucene™基础上的搜索引擎,可以说Lucene是当今最先进,最高效的全功能开源搜索引擎框架。
但是Lucene只是一个框架,要充分利用它的功能,需要使用Java,并且在程序中集成Lucene。需要很多的学习了解,才能明白它是如何运行的,Lucene确实非常复杂。
Elasticsearch使用Lucene作为内部引擎,但是在使用它做全文搜索时,只需要使用统一开发好的API即可,而不需要了解其背后复杂的Lucene的运行原理。
当然Elasticsearch并不仅仅是Lucene这么简单,它不但包括了全文搜索功能,还可以进行以下工作:

  • 分布式实时文件存储,并将每一个字段都编入索引,使其可以被搜索。
  • 实时分析的分布式搜索引擎。
  • 可以拓展到上百台服务器,处理PB级别的结构化或非结构化数据。
阅读全文 »
Lain's Blog

Ubuntu--"unmount:command not found"的解决方法

发表于 2014-10-26 | 分类于 技术 | | 阅读次数

不得不说,这是个很弱的问题,今儿碰巧遇到。答案也非常简单。虽然没什么营养,但是为了加深印象,也为了碰到这个问题的其他人搜索起来不要那么“举目无亲”,还是记录下来。

根本没有什么unmount,而是umount。

阅读全文 »
12
Lain

Lain

藏剑于身 待时而动

11 日志
1 分类
32 标签
RSS
GitHub Coding 简书 知乎
© 2016 - 2017 Lain
由 Hexo 强力驱动
主题 - NexT.Pisces
扫二维码
扫一扫,用手机访问本站

扫一扫,用手机访问本站

发送邮件