10 Commits

Author SHA1 Message Date
041b32e1df Версия 1.0.4
All checks were successful
release / release (push) Successful in 1m23s
2025-05-16 23:10:02 +08:00
e98d923ce5 Оптимизация проверки каналов (#5)
- теперь проверяется только первый 1 Кб контента
- скорректирована проверка mpd-контента
2025-05-16 23:09:27 +08:00
01ddf25ed5 Поддержка тегирования по атрибуту tvg-name канала 2025-05-13 16:48:34 +08:00
4772f0179d Версия 1.0.3 - фикс парсинга атрибутов тега #EXTM3U
All checks were successful
release / release (push) Successful in 1m15s
2025-05-13 16:45:15 +08:00
c00dc8d33e Обновлён README 2025-05-11 12:25:15 +08:00
57eb194efa Версия 1.0.2
All checks were successful
release / release (push) Successful in 1m6s
2025-05-10 18:36:04 +08:00
4cbdd41b7c Скорректирован расчёт нагрузки в сторону увеличения 2025-05-10 18:35:02 +08:00
79891d178f Исправлен подсчёт онлайн/оффлайн каналов после проверки 2025-05-10 18:30:37 +08:00
89601096ba Исправлена дата проверки оффлайн плейлистов 2025-05-10 12:07:54 +08:00
68329697ac Бейдж теперь ссылка на последний релиз 2025-05-10 12:00:41 +08:00
6 changed files with 66 additions and 40 deletions

1
.gitignore vendored
View File

@@ -9,5 +9,6 @@ output/
*.m3u8 *.m3u8
*.json *.json
*.ini *.ini
iptvc
!/**/*.gitkeep !/**/*.gitkeep

View File

@@ -1,19 +1,21 @@
# IPTV Checker (iptvc) # IPTV Checker (iptvc)
![Последний релиз](https://img.shields.io/gitea/v/release/IPTV/iptvc?gitea_url=https%3A%2F%2Fgit.axenov.dev&display_name=release&color=green&cacheSeconds=600) [![Последний релиз](https://img.shields.io/gitea/v/release/IPTV/iptvc?gitea_url=https%3A%2F%2Fgit.axenov.dev&display_name=release&color=green&cacheSeconds=600)](https://git.axenov.dev/IPTV/iptvc/releases/latest)
Консольная программа для проверки IPTV-плейлистов в формате m3u или m3u8. Консольная программа для проверки IPTV-плейлистов в формате m3u или m3u8.
> [!IMPORTANT] > **Веб-сайт:** [iptv.axenov.dev](https://iptv.axenov.dev)
> Проект находится на ранней стадии разработки. > **Зеркало:** [m3u.su](https://m3u.su)
> Реализован минимально необходимый функционал. > Исходный код: [git.axenov.dev/IPTV/iptvc](https://git.axenov.dev/IPTV/iptvc)
> Возможны ошибки, неточности и обратно несовместимые изменения. > Telegram-канал: [@iptv_aggregator](https://t.me/iptv_aggregator)
> Обсуждение: [@iptv_aggregator_chat](https://t.me/iptv_aggregator_chat)
Для дополнительной документации можно обращаться в директорию [docs](./docs). > Дополнительные сведения:
> * [./docs](./docs)
> * [git.axenov.dev/IPTV/.profile](https://git.axenov.dev/IPTV/.profile)
## Установка ## Установка
Достаточно скачать и распаковать архив с подходящим исполняемым файлом [со страницы релизов](https://git.axenov.dev/IPTV/iptvc/releases): Достаточно скачать и распаковать архив с подходящим исполняемым файлом [со страницы последнего релиза](https://git.axenov.dev/IPTV/iptvc/releases/latest):
| ОС | Архив | Платформа | | ОС | Архив | Платформа |
|---------|----------------------|-----------| |---------|----------------------|-----------|
@@ -62,10 +64,13 @@
2. Выполнить команду `./iptvc check` или `./iptvc check -i playlist.ini` для проверки всех плейлистов из файла `./playlists.ini` 2. Выполнить команду `./iptvc check` или `./iptvc check -i playlist.ini` для проверки всех плейлистов из файла `./playlists.ini`
3. Выполнить команду `./iptvc check -i test.ini -c ABC`, чтобы проверить только плейлист с кодом `ABC` из файла `./test.ini` 3. Выполнить команду `./iptvc check -i test.ini -c ABC`, чтобы проверить только плейлист с кодом `ABC` из файла `./test.ini`
Если `-i` не указан явно, то будет попытка прочитать файл `playlists.ini`, находящийся в одной директории с iptvc.
Аргумент `-i` можно указывать только однажды, но его можно комбинировать с `-f` и `-u`. Аргумент `-i` можно указывать только однажды, но его можно комбинировать с `-f` и `-u`.
### Другие возможности команды `check` ### Другие возможности команды `check`
* `--random|-r X` -- проверить X случайных плейлистов из ini-файла
* `--json|-j` -- вывести результаты проверки в формате JSON * `--json|-j` -- вывести результаты проверки в формате JSON
* `--quiet|-q` -- полностью подавить вывод лога (включая отладочную информацию) * `--quiet|-q` -- полностью подавить вывод лога (включая отладочную информацию)
* `--verbose|-v` -- добавить в лог более подробную отладочную информацию (значительно увеличит количество строк!) * `--verbose|-v` -- добавить в лог более подробную отладочную информацию (значительно увеличит количество строк!)

View File

@@ -13,7 +13,7 @@ import (
"github.com/redis/go-redis/v9" "github.com/redis/go-redis/v9"
) )
const VERSION = "1.0.1" const VERSION = "1.0.4"
// Arguments описывает аргументы командной строки // Arguments описывает аргументы командной строки
type Arguments struct { type Arguments struct {

View File

@@ -18,6 +18,7 @@ import (
"io" "io"
"log" "log"
"maps" "maps"
"math"
"math/rand" "math/rand"
"net/http" "net/http"
"os" "os"
@@ -216,7 +217,6 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
http.DefaultTransport.(*http.Transport).TLSClientConfig = &tls.Config{InsecureSkipVerify: true} http.DefaultTransport.(*http.Transport).TLSClientConfig = &tls.Config{InsecureSkipVerify: true}
req, err := http.NewRequest("GET", tvChannel.URL, nil) req, err := http.NewRequest("GET", tvChannel.URL, nil)
tvChannel.CheckedAt = time.Now().Unix()
if err != nil { if err != nil {
data := errorData{tvChannel: tvChannel, err: err} data := errorData{tvChannel: tvChannel, err: err}
chError <- data chError <- data
@@ -225,7 +225,9 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
//TODO user-agent //TODO user-agent
req.Header.Set("User-Agent", "Mozilla/5.0 WINK/1.31.1 (AndroidTV/9) HlsWinkPlayer") req.Header.Set("User-Agent", "Mozilla/5.0 WINK/1.31.1 (AndroidTV/9) HlsWinkPlayer")
req.Header.Add("Range", "bytes=0-1023") // 1 Kb, but sometimes servers ignore it
resp, err := httpClient.Do(req) resp, err := httpClient.Do(req)
tvChannel.CheckedAt = time.Now().Unix()
if err != nil { if err != nil {
data := errorData{tvChannel: tvChannel, err: err} data := errorData{tvChannel: tvChannel, err: err}
chError <- data chError <- data
@@ -235,7 +237,8 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
tvChannel.Status = resp.StatusCode tvChannel.Status = resp.StatusCode
tvChannel.IsOnline = tvChannel.Status < http.StatusBadRequest tvChannel.IsOnline = tvChannel.Status < http.StatusBadRequest
tvChannel.ContentType = resp.Header.Get("Content-Type") tvChannel.ContentType = resp.Header.Get("Content-Type")
bodyBytes, _ := io.ReadAll(resp.Body) chunk := io.LimitReader(resp.Body, 1024) // just for sure
bodyBytes, _ := io.ReadAll(chunk)
bodyString := string(bodyBytes) bodyString := string(bodyBytes)
_ = resp.Body.Close() _ = resp.Body.Close()
contentType := http.DetectContentType(bodyBytes) contentType := http.DetectContentType(bodyBytes)
@@ -245,7 +248,9 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
isContentCorrect := isContentBinary || isContentCorrect := isContentBinary ||
strings.Contains(bodyString, "#EXTM3U") || strings.Contains(bodyString, "#EXTM3U") ||
strings.Contains(bodyString, "<SegmentTemplate") strings.Contains(bodyString, "<MPD ") ||
strings.Contains(bodyString, "<SegmentTemplate ") ||
strings.Contains(bodyString, "<AdaptationSet ")
if tvChannel.Status >= http.StatusBadRequest || !isContentCorrect { if tvChannel.Status >= http.StatusBadRequest || !isContentCorrect {
tvChannel.Error = bodyString tvChannel.Error = bodyString
@@ -253,12 +258,6 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
return return
} }
if isContentBinary {
tvChannel.Content = "binary"
} else {
tvChannel.Content = bodyString
}
chOnline <- tvChannel chOnline <- tvChannel
return return
}(tvChannel) }(tvChannel)
@@ -268,7 +267,6 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
select { select {
case tvChannel := <-chOnline: case tvChannel := <-chOnline:
tvChannel.IsOnline = true tvChannel.IsOnline = true
pls.OnlineCount++
pls.Channels[tvChannel.Id] = tvChannel pls.Channels[tvChannel.Id] = tvChannel
if app.Args.Verbose { if app.Args.Verbose {
log.Printf("[%.3d/%.3d] ONLINE '%s'\n", idx, count, tvChannel.Title) log.Printf("[%.3d/%.3d] ONLINE '%s'\n", idx, count, tvChannel.Title)
@@ -277,7 +275,6 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
log.Printf("> MimeType: %s\n", tvChannel.ContentType) log.Printf("> MimeType: %s\n", tvChannel.ContentType)
} }
case tvChannel := <-chOffline: case tvChannel := <-chOffline:
pls.OfflineCount++
pls.Channels[tvChannel.Id] = tvChannel pls.Channels[tvChannel.Id] = tvChannel
if app.Args.Verbose { if app.Args.Verbose {
log.Printf("[%.3d/%.3d] OFFLINE '%s'\n", idx, count, tvChannel.Title) log.Printf("[%.3d/%.3d] OFFLINE '%s'\n", idx, count, tvChannel.Title)
@@ -286,7 +283,6 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
log.Printf("> Status: %d\n", tvChannel.Status) log.Printf("> Status: %d\n", tvChannel.Status)
} }
case data := <-chError: case data := <-chError:
pls.OfflineCount++
pls.Channels[data.tvChannel.Id] = data.tvChannel pls.Channels[data.tvChannel.Id] = data.tvChannel
if app.Args.Verbose { if app.Args.Verbose {
log.Printf("[%.3d/%.3d] ERROR '%s'\n", idx, count, data.tvChannel.Title) log.Printf("[%.3d/%.3d] ERROR '%s'\n", idx, count, data.tvChannel.Title)
@@ -303,6 +299,14 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
close(chError) close(chError)
pls.CheckedAt = time.Now().Unix() pls.CheckedAt = time.Now().Unix()
for _, tvChannel := range pls.Channels {
if tvChannel.IsOnline {
pls.OnlineCount++
} else {
pls.OfflineCount++
}
}
log.Printf( log.Printf(
"Checked successfully! online=%d onlinePercent=%.2f%% offline=%d offlinePercent=%.2f%% elapsedTime=%.2fs", "Checked successfully! online=%d onlinePercent=%.2f%% offline=%d offlinePercent=%.2f%% elapsedTime=%.2fs",
pls.OnlineCount, pls.OnlineCount,
@@ -317,26 +321,27 @@ func CheckChannels(pls playlist.Playlist) playlist.Playlist {
// calcParameters вычисляет оптимальное количество горутин и таймаут запроса // calcParameters вычисляет оптимальное количество горутин и таймаут запроса
func calcParameters(count int) (time.Duration, int) { func calcParameters(count int) (time.Duration, int) {
var routines int percentage := float32(runtime.NumCPU()) / 10
var percentage float32 for percentage >= 1 {
percentage *= 0.5
if count <= 100 {
routines = count
} else {
percentage = float32(runtime.NumCPU()) * 0.075
for percentage >= 1 {
percentage *= 0.5
}
routines = int(float32(count) * percentage)
} }
if routines > 500 {
routines = 500 routines := int(float32(count) * percentage)
if routines > 1500 {
routines = 1500
} }
if routines < 1 { if routines < 1 {
routines = 1 routines = 1
} }
timeout := 10 / float32(count) * 150 var digits int
x := count
for x >= 10 {
digits++
x /= 10
}
timeout := int(math.Ceil(math.Pow(10, float64(digits)) / float64(count) * 15))
if timeout > 10 { if timeout > 10 {
timeout = 10 timeout = 10
} }

View File

@@ -12,6 +12,7 @@ import (
"os" "os"
"regexp" "regexp"
"strings" "strings"
"time"
) )
// Group - структура для хранения информации о группе каналов // Group - структура для хранения информации о группе каналов
@@ -31,7 +32,6 @@ type Channel struct {
Status int `json:"status"` // Код статуса HTTP Status int `json:"status"` // Код статуса HTTP
IsOnline bool `json:"isOnline"` // Признак доступности канала (при Status < 400) IsOnline bool `json:"isOnline"` // Признак доступности канала (при Status < 400)
Error string `json:"error"` // Текст ошибки (при Status >= 400) Error string `json:"error"` // Текст ошибки (при Status >= 400)
Content string `json:"content"` // Тело ответа (формат m3u, либо маскированные бинарные данные, либо пусто)
ContentType string `json:"contentType"` // MIME-тип тела ответа ContentType string `json:"contentType"` // MIME-тип тела ответа
Tags []string `json:"tags"` // Список тегов канала Tags []string `json:"tags"` // Список тегов канала
CheckedAt int64 `json:"checkedAt"` // Время проверки в формате UNIX timestamp CheckedAt int64 `json:"checkedAt"` // Время проверки в формате UNIX timestamp
@@ -124,6 +124,7 @@ func (pls *Playlist) Download() error {
content, err := utils.Fetch(pls.Url) content, err := utils.Fetch(pls.Url)
if err != nil { if err != nil {
pls.Content = err.Error() pls.Content = err.Error()
pls.CheckedAt = time.Now().Unix()
return err return err
} }
@@ -136,6 +137,7 @@ func (pls *Playlist) ReadFromFs() error {
content, err := os.ReadFile(pls.Url) content, err := os.ReadFile(pls.Url)
if err != nil { if err != nil {
pls.Content = err.Error() pls.Content = err.Error()
pls.CheckedAt = time.Now().Unix()
return err return err
} }
@@ -161,7 +163,7 @@ func (pls *Playlist) Parse() Playlist {
} }
if strings.HasPrefix(line, "#EXTM3U") { if strings.HasPrefix(line, "#EXTM3U") {
pls.Attributes = parseAttributes(content) pls.Attributes = parseAttributes(line)
continue continue
} }

View File

@@ -18,9 +18,10 @@ import (
// TagBlock описывает объект с набором тегов, который подходит для каналов по регулярному выражению // TagBlock описывает объект с набором тегов, который подходит для каналов по регулярному выражению
type TagBlock struct { type TagBlock struct {
TvgId string `json:"tvg-id"` TvgId string `json:"tvg-id"`
Title string `json:"title"` TvgName string `json:"tvg-name"`
Tags []string `json:"tags"` Title string `json:"title"`
Tags []string `json:"tags"`
} }
// GetTags возвращает теги, соответствующие каналу // GetTags возвращает теги, соответствующие каналу
@@ -42,6 +43,18 @@ func (block *TagBlock) GetTags(ch playlist.Channel) []string {
if checkString == "" { if checkString == "" {
return result return result
} }
} else if block.TvgName != "" {
regex, err = regexp.Compile(block.TvgName)
if err != nil {
return result
}
if _, ok := ch.Attributes["tvg-name"]; !ok {
return result
}
checkString = ch.Attributes["tvg-name"]
if checkString == "" {
return result
}
} else if block.Title != "" { } else if block.Title != "" {
regex, err = regexp.Compile(block.Title) regex, err = regexp.Compile(block.Title)
if err != nil { if err != nil {