最新版:轻量级云原生日志收集方案 Loki 中文入门指南

　　公众号关注“精彩Linux世界”

　　把它定为“明星”，带你享受Linux每一天！

　　您好，很高兴为您介绍掘金开发者平台上的轻量级kubernetes日志采集解决方案。我自己在生产环境中使用过这个解决方案。令我惊讶的是，与 ELK 方案相比，它在 Kubernetes 中占用的资源确实微不足道。那就跟着这个文章开始学习吧……

　　为什么使用 Loki

　　本文章重点介绍grafana开发的loki日志采集应用。Loki 是一个轻量级的日志采集和分析应用程序。它使用 promtail 获取日志内容并将其发送到 loki 进行存储。最后在grafana的数据源中添加一个数据源，用于日志展示和查询。

　　Loki 的持久化存储支持 azure、gcs、s3、swift、local 5 种类型，其中 s3 和 local 比较常用。此外，它还支持多种类型的日志采集，比如最常用的logstash和fluentbit也在官方支持列表中。

　　那么它有哪些优势呢？各个日志采集组件的优势，简单比较按名称安装的组件

　　麋鹿/EFK

　　弹性搜索、logstash、kibana、filebeat、kafka/redis

　　支持自定义grok定期分析复杂日志内容；仪表盘支持丰富的可视化展示

　　洛基

　　格拉法纳，洛基，promtail

　　占地面积小；原生支持 grafana；查询速度快；

　　Loki 的工作原理日志解析格式

　　从上图我们可以看出，它在解析日志的时候，主要是基于index。index 包括 pod 的时间戳和部分标签（其他标签是文件名、容器等），剩下的就是日志内容。具体查询效果如下：

　　{app="loki",namespace="kube-public"} 是索引。

　　日志采集架构模式

　　在使用过程中，官方推荐使用promtail作为代理，以DaemonSet方式部署在kubernetes的worker节点上进行日志采集。此外，您还可以使用上面提到的其他日志采集工具进行采集。这个文章最后会附上其他工具的配置方法。

　　Loki 部署模式有哪些？

　　Loki 是用许多组件微服务构建的，有 5 个微服务组件。在这 5 个中添加缓存，将数据放在一起以加快查询速度。数据放置在共享存储中，并且配置了 memberlist_config 部分，并在实例之间共享状态，从而允许 Loki 无限扩展。配置 memberlist_config 部分后，使用轮询方法查找数据。为了使用方便，官方将所有微服务编译成二进制，可以通过命令行参数-target控制，支持all、read、write。我们可以在部署时根据日志卷的大小指定不同的模式。

　　全部（读写模式）

　　服务启动后，我们所做的所有数据查询和数据写入都来自这个节点。请参见下图：

　　读/写（读写分离模式）

　　在读写拆分模式下运行时，前端查询查询将流量转发到读取节点。querier、ruler、fronted在读节点上保留，distributor和ingester在写节点上保留。

　　以微服务模式运行

　　在微服务模式下，通过不同的配置参数启动不同的角色，每个进程引用其目标角色服务。

　　组件名称功能

　　分销商/调度器（分销商）

　　验证数据合规性；数据排序；哈希一致性；QPS 限制；转发；数据拷贝保证不丢失

　　采集器（摄取器）

　　时间戳排序；文件系统支持；WAL 预写；

　　查询前端

　　提供页面操作，向后端存储发送数据查询；query-queueing 可以防止在大容量查询时触发OOM；query-split 可以拆分大批量查询，最后进行数据聚合

　　查询者

　　使用logql语言查询后端存储中的日志

　　缓存

　　将查询到的日志缓存起来以备后用，如果数据不全，重新查询丢失的数据

　　大显身手的服务器端部署

　　上面我们已经谈了很多关于 loki 及其工作模式的内容。您还必须预料到它将如何部署，对吧？！关于如何部署，在哪里部署，部署后如何使用的问题，都会浮现在你的脑海中。部署前需要准备一个 k8s 集群。那就好，那就耐心的往下看吧……

　　应用图像

　　洛基

　　格拉法纳/洛基：2.5.0

　　促销

　　格拉法纳/promtail:2.5.0

　　AllInOne部署方式①k8s部署

　　我们从github下载的程序没有配置文件，需要提前准备一份文件。此处提供了完整的 allInOne 配置文件，并进行了一些优化。

　　配置文件内容如下

auth_enabled: false target: all ballast_bytes: 20480 server: grpc_listen_port: 9095 http_listen_port: 3100 graceful_shutdown_timeout: 20s grpc_listen_address: "0.0.0.0" grpc_listen_network: "tcp" grpc_server_max_concurrent_streams: 100 grpc_server_max_recv_msg_size: 4194304 grpc_server_max_send_msg_size: 4194304 http_server_idle_timeout: 2m http_listen_address: "0.0.0.0" http_listen_network: "tcp" http_server_read_timeout: 30s http_server_write_timeout: 20s log_source_ips_enabled: true ## http_path_prefix如果需要更改，在推送日志的时候前缀都需要加指定的内容 ## http_path_prefix: "/" register_instrumentation: true log_format: json log_level: info distributor: ring: heartbeat_timeout: 3s kvstore: prefix: collectors/ store: memberlist ## 需要提前创建好consul集群 ## consul: ## http_client_timeout: 20s ## consistent_reads: true ## host: 127.0.0.1:8500 ## watch_burst_size: 2 ## watch_rate_limit: 2 querier: engine: max_look_back_period: 20s timeout: 3m0s extra_query_delay: 100ms max_concurrent: 10 multi_tenant_queries_enabled: true query_ingester_only: false query_ingesters_within: 3h0m0s query_store_only: false query_timeout: 5m0s tail_max_duration: 1h0s query_scheduler: max_outstanding_requests_per_tenant: 2048 grpc_client_config: max_recv_msg_size: 104857600 max_send_msg_size: 16777216 grpc_compression: gzip rate_limit: 0 rate_limit_burst: 0 backoff_on_ratelimits: false backoff_config: min_period: 50ms max_period: 15s max_retries: 5 use_scheduler_ring: true scheduler_ring: kvstore: store: memberlist prefix: "collectors/" heartbeat_period: 30s heartbeat_timeout: 1m0s ## 默认第一个网卡的名称 ## instance_interface_names ## instance_addr: 127.0.0.1 ## 默认server.grpc-listen-port instance_port: 9095 frontend: max_outstanding_per_tenant: 4096 querier_forget_delay: 1h0s compress_responses: true log_queries_longer_than: 2m0s max_body_size: 104857600 query_stats_enabled: true scheduler_dns_lookup_period: 10s scheduler_worker_concurrency: 15 query_range: align_queries_with_step: true cache_results: true parallelise_shardable_queries: true max_retries: 3 results_cache: cache: enable_fifocache: false default_validity: 30s background: writeback_buffer: 10000 redis: endpoint: 127.0.0.1:6379 timeout: 1s expiration: 0s db: 9 pool_size: 128 password: 1521Qyx6^ tls_enabled: false tls_insecure_skip_verify: true idle_timeout: 10s max_connection_age: 8h ruler: enable_api: true enable_sharding: true alertmanager_refresh_interval: 1m disable_rule_group_label: false evaluation_interval: 1m0s flush_period: 3m0s for_grace_period: 20m0s for_outage_tolerance: 1h0s notification_queue_capacity: 10000 notification_timeout: 4s poll_interval: 10m0s query_stats_enabled: true remote_write: config_refresh_period: 10s enabled: false resend_delay: 2m0s rule_path: /rulers search_pending_for: 5m0s storage: local: directory: /data/loki/rulers type: configdb sharding_strategy: default wal_cleaner: period: 240h min_age: 12h0m0s wal: dir: /data/loki/ruler_wal max_age: 4h0m0s min_age: 5m0s truncate_frequency: 1h0m0s ring: kvstore: store: memberlist prefix: "collectors/" heartbeat_period: 5s heartbeat_timeout: 1m0s ## instance_addr: "127.0.0.1" ## instance_id: "miyamoto.en0" ## instance_interface_names: ["en0","lo0"] instance_port: 9500 num_tokens: 100 ingester_client: pool_config: health_check_ingesters: false client_cleanup_period: 10s remote_timeout: 3s remote_timeout: 5s ingester: autoforget_unhealthy: true chunk_encoding: gzip chunk_target_size: 1572864 max_transfer_retries: 0 sync_min_utilization: 3.5 sync_period: 20s flush_check_period: 30s flush_op_timeout: 10m0s chunk_retain_period: 1m30s chunk_block_size: 262144 chunk_idle_period: 1h0s max_returned_stream_errors: 20 concurrent_flushes: 3 index_shards: 32 max_chunk_age: 2h0m0s query_store_max_look_back_period: 3h30m30s wal: enabled: true dir: /data/loki/wal flush_on_shutdown: true checkpoint_duration: 15m replay_memory_ceiling: 2GB lifecycler: ring: kvstore: store: memberlist prefix: "collectors/" heartbeat_timeout: 30s replication_factor: 1 num_tokens: 128 heartbeat_period: 5s join_after: 5s observe_period: 1m0s ## interface_names: ["en0","lo0"] final_sleep: 10s min_ready_duration: 15s storage_config: boltdb: directory: /data/loki/boltdb boltdb_shipper: active_index_directory: /data/loki/active_index build_per_tenant_index: true cache_location: /data/loki/cache cache_ttl: 48h resync_interval: 5m query_ready_num_days: 5 index_gateway_client: grpc_client_config: filesystem: directory: /data/loki/chunks chunk_store_config: chunk_cache_config: enable_fifocache: true default_validity: 30s background: writeback_buffer: 10000 redis: endpoint: 192.168.3.56:6379 timeout: 1s expiration: 0s db: 8 pool_size: 128 password: 1521Qyx6^ tls_enabled: false tls_insecure_skip_verify: true idle_timeout: 10s max_connection_age: 8h fifocache: ttl: 1h validity: 30m0s max_size_items: 2000 max_size_bytes: 500MB write_dedupe_cache_config: enable_fifocache: true default_validity: 30s background: writeback_buffer: 10000 redis: endpoint: 127.0.0.1:6379 timeout: 1s expiration: 0s db: 7 pool_size: 128 password: 1521Qyx6^ tls_enabled: false tls_insecure_skip_verify: true idle_timeout: 10s max_connection_age: 8h fifocache: ttl: 1h validity: 30m0s max_size_items: 2000 max_size_bytes: 500MB cache_lookups_older_than: 10s ## 压缩碎片索引 compactor: shared_store: filesystem shared_store_key_prefix: index/ working_directory: /data/loki/compactor compaction_interval: 10m0s retention_enabled: true retention_delete_delay: 2h0m0s retention_delete_worker_count: 150 delete_request_cancel_period: 24h0m0s max_compaction_parallelism: 2 ## compactor_ring: frontend_worker: match_max_concurrent: true parallelism: 10 dns_lookup_duration: 5s ## runtime_config 这里没有配置任何信息 ## runtime_config: common: storage: filesystem: chunks_directory: /data/loki/chunks fules_directory: /data/loki/rulers replication_factor: 3 persist_tokens: false ## instance_interface_names: ["en0","eth0","ens33"] analytics: reporting_enabled: false limits_config: ingestion_rate_strategy: global ingestion_rate_mb: 100 ingestion_burst_size_mb: 18 max_label_name_length: 2096 max_label_value_length: 2048 max_label_names_per_series: 60 enforce_metric_name: true max_entries_limit_per_query: 5000 reject_old_samples: true reject_old_samples_max_age: 168h creation_grace_period: 20m0s max_global_streams_per_user: 5000 unordered_writes: true max_chunks_per_query: 200000 max_query_length: 721h max_query_parallelism: 64 max_query_series: 700 cardinality_limit: 100000 max_streams_matchers_per_query: 1000 max_concurrent_tail_requests: 10 ruler_evaluation_delay_duration: 3s ruler_max_rules_per_rule_group: 0 ruler_max_rule_groups_per_tenant: 0 retention_period: 700h per_tenant_override_period: 20s max_cache_freshness_per_query: 2m0s max_queriers_per_tenant: 0 per_stream_rate_limit: 6MB per_stream_rate_limit_burst: 50MB max_query_lookback: 0 ruler_remote_write_disabled: false min_sharding_lookback: 0s split_queries_by_interval: 10m0s max_line_size: 30mb max_line_size_truncate: false max_streams_per_user: 0 ## memberlist_conig模块配置gossip用于在分发服务器、摄取器和查询器之间发现和连接。 ## 所有三个组件的配置都是唯一的，以确保单个共享环。 ## 至少定义了1个join_members配置后，将自动为分发服务器、摄取器和ring 配置memberlist类型的kvstore memberlist: randomize_node_name: true stream_timeout: 5s retransmit_factor: 4 join_members: - 'loki-memberlist' abort_if_cluster_join_fails: true advertise_addr: 0.0.0.0 advertise_port: 7946 bind_addr: ["0.0.0.0"] bind_port: 7946 compression_enabled: true dead_node_reclaim_time: 30s gossip_interval: 100ms gossip_nodes: 3 gossip_to_dead_nodes_time: 3 ## join: leave_timeout: 15s left_ingesters_timeout: 3m0s max_join_backoff: 1m0s max_join_retries: 5 message_history_buffer_bytes: 4096 min_join_backoff: 2s ## node_name: miyamoto packet_dial_timeout: 5s packet_write_timeout: 5s pull_push_interval: 100ms rejoin_interval: 10s tls_enabled: false tls_insecure_skip_verify: true schema_config: configs: - from: "2020-10-24" index: period: 24h prefix: index_ object_store: filesystem schema: v11 store: boltdb-shipper chunks: period: 168h row_shards: 32 table_manager: retention_deletes_enabled: false retention_period: 0s throughput_updates_disabled: false poll_interval: 3m0s creation_grace_period: 20m index_tables_provisioning: provisioned_write_throughput: 1000 provisioned_read_throughput: 500 inactive_write_throughput: 4 inactive_read_throughput: 300 inactive_write_scale_lastn: 50 enable_inactive_throughput_on_demand_mode: true enable_ondemand_throughput_mode: true inactive_read_scale_lastn: 10

AI时代内容工厂

最新版:轻量级云原生日志收集方案 Loki 中文入门指南

0 个评论

发起人