🇺🇦 Go for two :)
1.18K subscribers
22 photos
3 files
184 links
Telegram channel about tricks and engineering practices in the Go programming language over a cup of coffee ☕️.

author: @a_soldatenko
personal blog: https://asoldatenko.org

#golang #go #kubernetes #debugging
加入频道
Note # 28 fallthrough или “проваливаемся” дальше ⤵️
Go содержит интересное ключевое слово fallthrough, которое на практике встречается довольно редко, его главная задача передать управление следующему оператору case в условных конструкциях switch/case.
Итак поехали 🚴‍♂️:
func main() {
switch 42 {
case 42:
fmt.Println("First case: 42!")
fallthrough
default:
fmt.Println("Second case")
}
}
// First case: 42!
// Second case

Т.е по дефолту в Go switch/case не проваливается дальше - это нужно делать явно используя ключевое слово fallthrough.

Не разрешается использовать в последнем операторе неважно это case или default:
func main() {
switch 42 {
case 42:
fmt.Println("First case: 42!")
default:
fmt.Println("Second case")
fallthrough
}
}
// cannot fallthrough final case in switch

Соответственно такой вариант вполне валидный:
func main() {
switch 42 {
default:
fmt.Println("Second case")
fallthrough
case 42:
fmt.Println("First case: 42!")
}
}
// First case: 42!

Важный момент, "fallthrough" не разрешается использовать в связке с type switch:
func main() {
var pi interface{} = 3.14
switch i := pi.(type) {
case int:
fmt.Printf("%v", i)
fallthrough
default:
fmt.Println("don't know the type")
}
}
// ./prog.go:18:3: cannot fallthrough in type switch

Так же нельзя делать вложенные конструкции которые содержат fallthrough ☔️:
func main() {
switch 42 {
case 42:
fmt.Println("First case: 42!")
if true {
fallthrough
}
case 1:
fmt.Println("First case: 1!")
}
}
// ./prog.go:18:4: fallthrough statement out of place


Useful links:
- ref - https://golang.org/ref/spec#Switch_statements
- wiki https://github.com/golang/go/wiki/Switch
Note #29 Testing.short или разделяем тестовые прогоны 📝

Недавно наткнулся на интересную тему: разделение Go тестов на быстрые или медленные те например unit и integration tests. Все собрал в короткую заметку:

A) Стандартный подход использую `testing.Short` [2]:
func TestQuick(t *testing.T) {
...
}

func TestTimeConsuming(t *testing.T) {
if testing.Short() {
t.Skip("skipping test in short mode.")
}
}

Если выполнить:
$ go test -short
То мы пропустим тест TestTimeConsuming и выполним только TestQuick

B) Использовать build tags самый, на мой взгляд, гибкий подход:
Те создаем integration_test.go файл и добавляем билд тэги [1]:
// +build integration

func TestTimeConsuming(t *testing.T) {
// ...
}

Далее просто запускаем:
$ go test -tags=integration

С) Использовать -test.run RegExp [2]:
Можно именовать тесты с префиксом понятным всей команде:
func TestQuickUnit(t *testing.T) {
...
}

func TestIntegraion(t *testing.T) {
...
}

И далее просто:
$ go test -run Integration
$ go test -run Unit

P.S. еще как вариант можно добавить разделение с помощью переменных окружения
А как сделано в вашем проекте? Поделиться можно в личку или чат
Links:
[1] https://golang.org/pkg/go/build/
[2] https://golang.org/cmd/go/#hdr-Testing_flags
[3] https://golang.org/pkg/testing/
Note 30 # Go time podcast

Давно хотел порекомендовать подкаст, который слушаю постоянно: Go Time - очень интересный Go подкаст на англ языке - и вчера вышел юбилейный эпизод #100
в котором принимали участие Rob Pike и Robert Griesemer 🎉🎉🎉

Обсуждали историю Go, текущую работу и будущее 🚀
P.S. какие подкасты слушаете вы? Жаль что больше не выходят эпизоды https://golangshow.com/ :(

Enjoy: https://changelog.com/gotime/100
Note #31 go run и exit code

Вчера в твиттере увидел как Джонни Бурсиквот задает вопрос[1]: почему go run всегда возвращает exit code 1:
$ cat main.go
package main

import "os"

func main() {
os.Exit(199)
}
$ go run main.go
exit status 199
$ echo $?
1
А если собрать бинарник, а потом запустить то все будет ок:
go build main.go
./main
$ echo $?
199
Странно почему он не догадался сразу, go run - это 2 процесса и соответственно 2 exit кода, однако go run может вернуть только один exit код :)

Крутой коммент от Дэйва Чейни (перевод):
“Go run - это для игрушечных программ, серьезные программы нужно компилировать и запускать” :lol:

Вот часть исходника go run [3] “We ignore exit status.”:
// buildRunProgram is the action for running a binary that has already
// been compiled. We ignore exit status.
func buildRunProgram(b *work.Builder, a *work.Action) error {

}
Links:
[1] Твиттер thread https://twitter.com/jboursiquot/status/1177296876779057152
[2] Issue 2015 года на эту тему: https://github.com/golang/go/issues/13440
[3] https://github.com/golang/go/blob/master/src/cmd/go/internal/run/run.go#L146-L148
Note #32 negative slice/array indexes

Уже несколько раз попадается на глаза противоречивое предложение добавить в Go отрицательные индексы как в Python. Те сейчас негативные индексы вызывают панику:
func main() {
a := []int{1, 2, 3}
fmt.Println(a[-1])
}
invalid slice index -1 (index must be non-negative)

А чтобы взять последний элемент slice’а, нужно написать так:
func main() {
a := []int{1, 2, 3}
fmt.Println(a[len(a)-1])
}

В Go 2 было предложено очередной раз добавить:
a := m[-3]
// is equivalent to
a := m[len(m)-3]

Идея не увенчалась успехом, хотя по-мнению автора это добавляет читаемость кода, что довольно спорно.
Но зато в комментариях я нашел другое предложение от Ian Lance Taylor:
> Использовать len без скобок для того чтобы получить последний элемент слайса:
a := m[len-1]

Эту идею многие поддержали… но пока ни к чему не пришли.
P.S. Касательно -1 и других языков программирования: хотя и в Python -1 означает len - 1 в контексте индексов списков, в JavaScript -1 всего лишь -1, а в Java - это IndexOutOfBounds. Поэтому с точки зрения читаемости кода len-1 самый понятный.
to be continued…
Links:
https://github.com/golang/go/issues/33359
https://github.com/golang/go/issues/16231
https://github.com/golang/go/issues/20176
https://github.com/golang/go/issues/11245
Note #33: Разбор доклада Marwan Sulaiman - Handling Go Errors GopherCon 2019

Марван рассказывает и показывает как они обрабатывают ошибки в New York Times. Основная идея доклада в том, что у вас есть доменная модель и работать с ошибками необходимо по аналогии как Вы работаете с вашей доменной моделью. Делается это лучше всего, в виде type Error struct в пакете errors:
package Errors

// based on https://upspin.googlesource.com/upspin/+/master/errors/errors.go#23
type Error struct {
// a unique string describing a method or a function e.g. getUser
Op op

// can be predefined code/or own code (http/gRPC)
Kind kind

// you can add severity
Severity logrus.Level

// You can add any application Specific Data e.g.
ZipCode string
CreatedAt time.Time
}

Вариант использование:
if err != nil {
return &errors.Error{Op: “getUser”, Error: err}
}

По сути это доклад - это пересечение двух статей [2] и [3] с примерам и подробным описанием что означает каждое поле в структуре Error. Также Марван показывает несколько утилит которые помогают работать с такими ошибками (большая часть из проекта Upspin).

Данный подход помогает не только быстро понять, что и где сломалось в контексте приложения, но и легко настроить фильтры в системе логирования и мониторинга.
Если тема Вам близка то я рекомендую посмотреть видео [1] и/или прочитать еще раз эти статьи [2][3]:

Links:
[1] https://www.youtube.com/watch?v=4WIhhzTTd0Y
[2] https://middlemost.com/failure-is-your-domain/
[3] https://commandcenter.blogspot.com/2017/12/error-handling-in-upspin.html
[4] https://upspin.googlesource.com/upspin/+/master/errors/errors.go#23
Note #34 Generate coverage badger in Go

Вчера нашел интересный проект https://github.com/jpoles1/gopherbadger, который позволяет генерировать картинку c процентом тестового покрытия и совместим с go test -cover для вашего go пакета и умеет встраиваться сразу в README.md.

P.S. также это можно сделать если у вас уже подключен
https://coveralls.io/ или https://codecov.io/
Note #35 GopherCon UK 2019 videos

Опубликовали видео с GopherCon UK 2019 🎉🍾👀

https://www.youtube.com/playlist?list=PLDWZ5uzn69ezokLCB-nGgYInxL0uP1PeZ#gopherconuk

Приятного просмотра!
P.S. позже сделаю рейтинг (top10)
Note #36 Что нас ждет в Go 1.14?! 😎

Daniel Martí выложил слайды о том, что нас ждет в Go 1.14, по сути 1 слайд 1 issue 😁

Уже можно пощупать кое-что:
go get golang.org/dl/gotip


Слайды https://docs.google.com/presentation/d/1HfIwlVTmVWQk94OLKfTGvXpQxyp0U4ywG1u5j2tjiuE/edit#slide=id.g550f852d27_228_0
🇺🇦 Go for two :)
Note #35 GopherCon UK 2019 videos Опубликовали видео с GopherCon UK 2019 🎉🍾👀 https://www.youtube.com/playlist?list=PLDWZ5uzn69ezokLCB-nGgYInxL0uP1PeZ#gopherconuk Приятного просмотра! P.S. позже сделаю рейтинг (top10)
Top 10 докладов по кол-ву просмотров и лайков :)

1. GopherCon UK + GoTimeFM + LondonGophers Live
2. GopherCon UK 2019: Gergely Brautigam - Robotics with Go is a Breeze
3. GopherCon UK 2019: Gautam Rege - Impossible Go!
4. GopherCon UK 2019: Jorge Marin - Experimenting with Golang and Webassembly
5. GopherCon UK 2019: Daniela Petruzalek - Fun With Pointers
6. GopherCon UK 2019: Elias Naur - Gio Cross Platform GUI Programming for Mobile, Desktop, WebAssembly
7. GopherCon UK 2019: Ricardo Jimenez - Quicksilver How Cloudflare Controls it's Network Using Go
8. GopherCon UK 2019: Johan Brandhorst - Writing REST Services for the gRPC curious
9. GopherCon UK 2019: Joan López de la Franca Beltran - From Chaos to Domain Driven Design
10. GopherCon UK 2019: Alan Braithwaite - Advanced Testing Techniques

P.S. стоит всегда помнить, что любая конференция - это больше про нетворкинг, чем про контент или что-то новое :)
Note# 37 Что делать, если Go сервисы видны наружу в интернет?

Оказывается то, что мы давно привыкли прятать сервисы за nginx(и альтернативы), Filippo Valsorda(широко известный в узких кругах по своим контрибьюшинам в Go, особоенно в пакет crypto) в своей статье[1], давно эксперементирует над тем, чтобы окрывать сервисы наружу на чистом Go (net/http, crypto/tls):

- как добавить сертификаты?
- редирект http -> https
- http/2
- добавляем таймауты и TCPKeepAlive,
- логгирование и сбор метрики,
- и огромное кол-во секьрити и не только багофиксов

Так же по его словам это вполне реально уже с go 1.8. Статья хоть и конца 2018 года, остается актуальной и сегодня...

Links:
- https://blog.cloudflare.com/exposing-go-on-the-internet/
Note #38 Go time 102: Application design 📻🎤

В этому выпуске Kat Zień, Peter Bourgon и Ben Johnson обсуждают тему, которая затрагивает каждый Go проект: как лучше всего организовать проект.

Краткое содержание интересных идей из эпизода:

1) выбираем структуру проекта в зависимости от вашего приложения/контекста, полезно лишний раз обсуждать с коллегами
2) никогда не используем “Global state”
3) Используем io.Reader/io.Writer вместо os.Stdout/os.Stdin для того, чтобы передавать buffer в тестах, тем самым контролировать поток ввода/вывода и логирование.
4) tiny main abstraction
func main() {
if err := run(); err != nil {
fmt.FPrintf(os.Stderr, "%s\n", err)
os.Exit(1)
}
}
// dummy
func run() error {
return nil
}
5) Пишем только то, что нужно прямо сейчас.
6) Пишем код который легко удалить, а не тот который легко расширить. 🔪
7) Не следует писать код - лишь бы удовлетворить компилятор, помним: мы пишем код для людей.
8) Фокусируемся на happy path, если пользователь что-то покупает - самое главное это как можно быстрее вернуть результат об успешной транзакции, а не упасть из-за того что лого не подгрузилось или email не отправился.
9) Начинаем с кода который выполняется последовательно и только позже добавляем concurrency.

P.S. От себя добавлю, что очень часто просматриваю как организованы чужие проекты на github. Например недавно, пересмотрел как организованы такие консольные утилиты как (docker, kubectl, helm3, doctl и так далее), что очень часто помогает выбрать наиболее удачную структуру.

https://changelog.com/gotime/102
Note #39 Import declaration 3 times

Сегодня наткнулся на интересный пример, если импортировать пакет 3 раза:
package main

import "math" // math.Sin
import m "math" // m.Sin
import k "math" // k.Sin

func main() {
print(math.Pi, m.Pi, k.Pi)
}

Что же тут интересного скажете Вы?!
- Go не запрещает импортировать один и тот же пакет если вы присваиваете каждому из них уникальный алиас. [1]
- Даже если вы импортируете пакет math 3 раза, то он будет импортироваться только 1 раз
- Пакет будет доступен по всем 3 алиасам как показано в примере выше.

Реальный пример, где это может пригодиться, есть метод в параметрах которой есть path и также path имя пакета который нам нужен внутри функции:
import (
"path"
pathpkg "path"
)
func (ld *loader) stdVendor(parentPath, path string) string {
// missing few lines here
vendorPath := pathpkg.Join("cmd", "vendor", path)
// missing few lines here


P.S. Я видел такой трюк несколько раз, и удивился, что это стало находкой для Brad Fitzpatrick [2] в PR об удалении переменной parseURL [3].

Links:
[1] https://golang.org/ref/spec#Import_declarations
[2] https://twitter.com/bradfitz/status/1186368288797777920
[3] https://go-review.googlesource.com/c/go/+/202482
Note #40 gops - list of your go process currently running

Нашел отличный тул gops, которые показывает список Go процессов, которые сейчас запущены.

$ go get -u github.com/google/gops


С помощью gops легко посмотреть версию Go бинарника который сейчас запущен:
$ gops
64186 81994 gops go1.13 /Users/andrii/workspace/bin/gops
76 1 com.docker.vmnetd go1.12.7 /Library/PrivilegedHelperTools/com.docker.vmnetd
….

$ gops tree
├── 81994
│ └── 70280 (gops) {go1.13}
├── 1
│ ├── 76 (com.docker.vmnetd) {go1.12.7}
│ ├── 28657 (updater) {go1.13}
│ ├── 28669 (kbfs) {go1.13}
│ └── 28663 (keybase) {go1.13}
├── 5099
│ ├── 5106 (com.docker.backend) {go1.12.7}
│ └── 5104 (com.docker.driver.amd64-linux) {go1.12.7}
└── 5032

Больше примеров как обычно в README [1]

Links:
[1] https://github.com/google/gops
Note #41: Поиск по исходному коду Go 🏄‍♂️

gg - еще один аналог старичка grep, который сужает поиск только: по ключевым словам, комментариям, и различным литералам.

Итак что умеет gg:

💥Поиск числа 255 в разных системах счисления (0b1111_1111, 0377, 0o377, 255, 0xff) во всех *.go файлах в текущей директории:
gg v 255 .


💥Поиск по всем комментариям, которые содержат слово case и игнорирует конструкцию switch case:
gg c case .


💥Поиск по всем ключевым словам, в частности по ifaм:
gg k if .

Болеше инфы как обычно в help. Have fun!

P.S. Также рекомендую познакомиться с аналогами grep заточенных под разработчиков: ripgrep (Rust), pt (platinum searcher) или ag (silver searcher) и ack eсли вы еще не слышали о них.

Useful links:
https://github.com/MichaelTJones/gg
https://github.com/BurntSushi/ripgrep
https://github.com/monochromegane/the_platinum_searcher
https://github.com/ggreer/the_silver_searcher
Note #42 Proposal: Scaling the Go page allocator

Пока мы все читали пропозалы про Go2, ошибки и дженерики ребята написали предложение, о том чтобы потюнить Go runtime page аллокатор, который содержит серьезные проблемы с маштабирование при высоких hit rate аллокациях и большом GOMAXPROCS=32.

Заметили проблему в kubernetes/kubernetes/issues/75833 и в issue golang/go/28479 (runtime: make([]byte, n) becomes much slower compared with go 1.11.1)

В общем все детали в достаточно объемном документе:
https://go.googlesource.com/proposal/+/refs/changes/57/202857/2/design/35112-scaling-the-page-allocator.md

Оригинальный issue: https://github.com/golang/go/issues/35112

P.S. Thanks @o8tomat8o за ссылку.
Note #43: Слайды моего доклада с Kyiv Go Meetup October 2019 🎃

В этом докладе я рассказываю как писать удобные для пользователя консольные комманды, которые легко тестировать.

Сcылка на слайды 👇
https://www.slideshare.net/ssuserb92f8d/building-robust-and-friendly-command-line-applications-in-go

Видео: 👇
https://youtu.be/4AdN5q_SSbs?t=21

References:
📹 justforfunc #5: Defining a Color Flag in Go
📹 justforfunc #32: CLI tools with Cobra
📹 GopherCon 2019: Carolyn Van Slyck - Design Command-Line Tools People Love
📖 The Go Programming Language by Alan A. A. Donovan, Brian W. Kernighan
📖 Go in Practice by Matt Butcher, Matt Farina

P.S. Вопросы можно задавать в личку или чатик.
Note #44: Golang security checker 👮‍♂️

Нашел тул, который помогает сканировать кодовую базу на различные секьюрити уязвимости:

- хардкодед явки и пароли
- байндинг на все сетевые интерфейсы (0.0.0.0:8001)
- поиск unsafe блоков кода
- конкатинация строк в SQL запросах
- не верные права на при создании фолдера

Больше инфы в доках [1] и сорс коде [2]

Links:
- [1] https://securego.io/
- [2] https://github.com/securego/gosec
P.S. даже есть свой slack: http://securego.herokuapp.com/ :)
Note 45: Go Конференции, которые нас ожидают в 2020 году 🔊

Продолжается набор заявок на доклады на FOSDEM 2020 (Go dev room), которая пройдет 1-2 февраля 2020 года, как обычно в Брюсселе. 🇧🇪

Как стало известно dotGo будет в марте 2020 в Париже 🇫🇷.

23-25 Апреля в Берлине, пройдет GoperCon Europe 2020 🇩🇪.

GopherCon в этому будет в Walt Disney World Dolphin Resort в 2020 году. Расположен в Орландо, штат Флорида. Стоит забукать в свои календари на 22-25 июня, чтобы испытать волшебство Диснея 😋🇺🇸.

To be continued...

Links:
[1] CFP Go devroom https://medium.com/@maartjeme/go-devroom-cfp-fosdem-2020-7615f2ed390
[2] dotGo https://www.dotgo.eu/
[3] https://twitter.com/gopherconeu
[4] https://twitter.com/gophercon
Note #46: Методы оценки безопасности для проектов Go 👮‍♂️

Ребята который проводили аудит безопасности k8s этим летом, опубликовали интересную статью о методах оценки безопасности в Go проектах [1]:

В статье говорится о:
- Статическом анализе (gosec, go-vet, and staticcheck, ineffassign, errcheck), кстати, о gosec я писал недавно https://yangx.top/golang_for_two/70);
- динамическом анализе: фаззинг, property testing (leanovate/gopter)
- кратко о codecoverage ( от себя добавлю визуализация codecov с помощью coveralls/codecov.io очень помогает)
и еще много полезностей 👇

https://blog.trailofbits.com/2019/11/07/attacking-go-vr-ttps/