mirzaev
/
spetsresurs-google_sheets-parser
Archived
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Compare commits

base: mirzaev:document_to_site
Branches Tags
mirzaev:document_to_site
mirzaev:transition_to_original_document
mirzaev:stable
mirzaev:based_on_IMPORTRANGE
mirzaev:1.4.0
mirzaev:1.3.0
mirzaev:1.2.0
mirzaev:1.1.0
mirzaev:1.0.0
..
compare: mirzaev:based_on_IMPORTRANGE
Branches Tags
mirzaev:document_to_site
mirzaev:transition_to_original_document
mirzaev:stable
mirzaev:based_on_IMPORTRANGE
mirzaev:1.4.0
mirzaev:1.3.0
mirzaev:1.2.0
mirzaev:1.1.0
mirzaev:1.0.0

2 Commits
document_t ... based_on_I

Author SHA1 Message Date
Arsen Mirzaev Tatyano-Muradovich abb61eff94 Исправление отмены 2023-06-29 00:30:13 +07:00
Arsen Mirzaev Tatyano-Muradovich 09b29628aa конвертация при повторной синхронизации сотрудников 2023-06-25 12:48:37 +07:00
26 changed files with 267 additions and 266 deletions
Show Stats Expand all files Collapse all files

0
.gitignore vendored Executable file → Normal file
View File

0
LICENSE Executable file → Normal file
View File

6
README.md Executable file → Normal file
View File

@ -1,7 +1,5 @@
# Google Sheets parser
Synchronizes Google Sheets with ArangoDB for [mirzaev/ebala](https://git.mirzaev.sexy/mirzaev/ebala)</br>
Synchronizes Google Sheets with ArangoDB
</br>
~~😼 Developed in 1 day for 100000 rubles ($1200)~~ shit happens</br>
**DEVELOPMENT COMPLETED. PROJECT CLOSED.**
~~😼 Developed in 1 day for 100000 rubles ($1200)~~ shit happens

0
START Executable file → Normal file
View File

0
composer.json Executable file → Normal file
View File

0
composer.lock generated Executable file → Normal file
View File

96
mirzaev/spetsresurs/google_sheets/parser/system/public/markets.php Executable file → Normal file
View File

@ -32,11 +32,10 @@ $arangodb = new connection(require __DIR__ . '/../settings/arangodb.php');
function generateLabel(string $name): string
{
return match ($name) {
'id', 'ID', 'ТТ', '№ТТ' => 'id',
'type', 'ТИП', 'Тип', 'тип', 'ФОРМАТ' => 'type',
'name', 'ДИРЕКТОР', 'Директор', 'директор', 'ДИРЕКТОР ТТ' => 'name',
'id', 'ID', 'ТТ' => 'id',
'type', 'ТИП', 'Тип', 'тип' => 'type',
'director', 'ДИРЕКТОР', 'Директор', 'директор' => 'director',
'address', 'АДРЕС', 'Адрес', 'адрес' => 'address',
'city', 'город', 'Город', 'Направление' => 'city',
default => $name
};
}
@ -46,24 +45,12 @@ function degenerateLabel(string $name): string
return match ($name) {
'ID', 'id' => 'ID',
'ТИП', 'type' => 'ТИП',
'ДИРЕКТОР', 'name' => 'ДИРЕКТОР',
'ДИРЕКТОР', 'director' => 'ДИРЕКТОР',
'АДРЕС', 'address' => 'АДРЕС',
'city' => 'ГОРОД',
default => $name
};
}
function convertNumber(string $number): string
{
// Очистка всего кроме цифр, а потом поиск 10 первых чисел (без восьмёрки)
preg_match('/\d?(\d{10})/', preg_replace("/[^\d]/", "", $number), $matches);
// Инициализация номера
$number = isset($matches[1]) ? 7 . $matches[1] : $number;
return $number;
}
function init(array $row, bool $reverse = false): array
{
$buffer = [];
@ -74,27 +61,21 @@ function init(array $row, bool $reverse = false): array
}
function sync(Row &$row): void
function sync(Row &$row, string $city = 'Красноярск'): void
{
global $arangodb;
// Инициализация строки в Google Sheet
$_row = init($row->toArray()['row']);
// Инициализация ФИО
$name = explode(' ', $_row['name']);
// Инициализация идентификатора
if (empty($id = preg_replace('/([^^\d]?)(\d+).*/u', 'K$2', $_row['id']))) return;
if (collection::init($arangodb->session, 'market'))
if ($market = collection::search($arangodb->session, sprintf("FOR d IN market FILTER d.id == '%s' RETURN d", $id))) {
if (collection::init($arangodb->session, 'markets'))
if (!empty($_row['id']) && $market = collection::search($arangodb->session, sprintf("FOR d IN markets FILTER d.id == '%s' RETURN d", $_row['id']))) {
// Найдена запись магазина (строки) в базе данных и включен режим перезаписи (приоритет - google sheets)
if (false && $market->transfer_to_sheets) {
if ($market->transfer_to_sheets) {
// Запрошен форсированный перенос данных из базы данных в таблицу
/* // Инициализация данных для записи в таблицу
// Инициализация данных для записи в таблицу
$new = [
'id' => $market->id ?? '',
'type' => $market->type ?? '',
@ -109,62 +90,39 @@ function sync(Row &$row): void
if ($_row !== $new) $row = $row->set((new Flow())->read(From::array([init($new, true)]))->fetch(1)[0]->get('row'));
// Деактивация форсированного трансфера
$market->transfer_to_sheets = false; */
$market->transfer_to_sheets = false;
} else {
// Перенос изменений из Google Sheet в инстанцию документа в базе данных
/* // Реинициализация данных в инстанции документа в базе данных с данными из Google Sheet
// Реинициализация данных в инстанции документа в базе данных с данными из Google Sheet
foreach ($market->getAll() as $key => $value) {
// Перебор всех записанных значений в инстанции документа в базе данных
// Конвертация
$market->{$key} = $_row[$key] ?? $value;
} */
}
}
/* // Обновление инстанции документа в базе данных
document::update($arangodb->session, $market); */
} else if (
// Обновление инстанции документа в базе данных
document::update($arangodb->session, $market);
} else if (
$market = collection::search(
$arangodb->session,
sprintf(
"FOR d IN market FILTER d._id == '%s' RETURN d",
document::write($arangodb->session, 'market', [
'id' => $id,
"FOR d IN markets FILTER d._id == '%s' RETURN d",
document::write($arangodb->session, 'markets', [
'id' => $_row['id'] ?? '',
'type' => $_row['type'] ?? '',
'name' => [
'first' => $name[1] ?? $_row['name'] ?? '',
'second' => $name[0] ?? '',
'last' => $name[2] ?? ''
],
'director' => $_row['director'] ?? '',
'address' => $_row['address'] ?? '',
'city' => $_row['city'] ?? '',
'active' => true
'city' => $city,
'transfer_to_sheets' => false
])
)
)
) {
// Не найдена запись магазина (строки) в базе данных и была создана
// Создание аккаунта
$account = document::write($arangodb->session, 'account', [
'type' => 'market',
'name' => [
'first' => $name[1] ?? $_row['name'] ?? '',
'second' => $name[0] ?? '',
'last' => $name[2] ?? ''
],
'number' => convertNumber($_row['number'] ?? ''),
'active' => true
]);
// Подключение сотрудника к аккаунту. Создание ребра: account -> market
document::write(
$arangodb->session,
'account_edge_market',
['_from' => $account, '_to' => $market->getId()]
);
/* // Реинициализация строки с новыми данными по ссылке (приоритет из Google Sheets)
$row = $row->set((new Flow())->read(From::array([init([
'id' => $_row['id'] ?? '',
@ -186,15 +144,15 @@ $client->setAuthConfig($settings);
$api = new Sheets($client);
foreach ($sheets as $sheet) {
$rows = (new Flow())->read(new GoogleSheetExtractor($api, $document, new Columns($sheet, 'B', 'F'), true, 1000, 'row'));
$rows = (new Flow())->read(new GoogleSheetExtractor($api, $document, new Columns($sheet, 'A', 'D'), true, 1000, 'row'));
$i = 1;
foreach ($rows->fetch(5000) as $row) {
if (++$i === 2) continue;
foreach ($rows->fetch(3000) as $row) {
++$i;
$buffer = $row;
sync($row);
sync($row, $sheet);
if ($buffer !== $row) {
/* $api->spreadsheets_values->update(
$api->spreadsheets_values->update(
$document,
"$sheet!A$i:D$i",
new ValueRange(['values' => [array_values($row->entries()->toArray()['row'])]]),
@ -202,7 +160,7 @@ foreach ($sheets as $sheet) {
);
// Ожидание для того, чтобы снизить шанс блокировки от Google
sleep(3); */
sleep(3);
}
}
}

224
mirzaev/spetsresurs/google_sheets/parser/system/public/workers.php Executable file → Normal file
View File

@ -9,15 +9,10 @@ use mirzaev\arangodb\connection,
use ArangoDBClient\Document as _document;
// Фреймворк для Google Sheets
use Flow\ETL\Adapter\GoogleSheet\GoogleSheetRange,
Flow\ETL\Adapter\GoogleSheet\GoogleSheetExtractor,
use Flow\ETL\Adapter\GoogleSheet\GoogleSheetExtractor,
Flow\ETL\Adapter\GoogleSheet\Columns,
Flow\ETL\Flow,
Flow\ETL\Config,
Flow\ETL\FlowContext,
Flow\ETL\Row\Entry,
Flow\ETL\Row,
Flow\ETL\DSL\To,
Flow\ETL\DSL\From;
// Фреймворк для Google API
@ -34,14 +29,14 @@ function generateLabel(string $name): string
return match ($name) {
'id', 'ID' => 'id',
'name', 'ФИО' => 'name',
'number', 'Номер' => 'number',
'phone', 'Номер' => 'phone',
'birth', 'Дата рождения' => 'birth',
'address', 'Регистрация' => 'address',
'commentary', 'Комментарий', 'примечание к звонкам' => 'commentary',
'commentary', 'Комментарий' => 'commentary',
'activity', 'Работа' => 'activity',
'passport', 'Паспорт' => 'passport',
'issued', 'Выдан' => 'issued',
'department', 'Подразделение', 'Код подразделения' => 'department',
'department', 'Подразделение' => 'department',
'hiring', 'Нанят' => 'hiring',
'district', 'Район', 'район' => 'district',
'requisites', 'Реквизиты', 'реквизиты' => 'requisites',
@ -57,14 +52,14 @@ function degenerateLabel(string $name): string
return match ($name) {
'ID', 'id' => 'ID',
'ФИО', 'name' => 'ФИО',
'Номер', 'number' => 'Номер',
'Номер', 'phone' => 'Номер',
'Дата рождения', 'birth' => 'Дата рождения',
'Регистрация', 'address' => 'Регистрация',
'Комментарий', 'примечание к звонкам', 'commentary' => 'Комментарий',
'Комментарий', 'commentary' => 'Комментарий',
'Работа', 'activity' => 'Работа',
'Паспорт', 'passport' => 'Паспорт',
'Выдан', 'issued' => 'Выдан',
'Подразделение', 'Код подразделения', 'department' => 'Подразделение',
'Подразделение', 'department' => 'Подразделение',
'Нанят', 'hiring' => 'Нанят',
'Район', 'district' => 'Район',
'Реквизиты', 'requisites' => 'Реквизиты',
@ -77,8 +72,9 @@ function degenerateLabel(string $name): string
function convertNumber(string $number): string
{
// Очистка всего кроме цифр, а потом поиск 10 первых чисел (без восьмёрки)
preg_match('/\d?(\d{10})/', preg_replace("/[^\d]/", "", $number), $matches);
preg_match('/^8(\d{10})/', preg_replace("/[^\d]/", "", $number), $matches);
// Инициализация номера
$number = isset($matches[1]) ? 7 . $matches[1] : $number;
@ -121,7 +117,7 @@ function connect(_document $worker, _document $robot): void
)
))
) {
// Инициализировано ребро: worker -> robot (любой)
// Инициализировано ребро: workers -> robot (любой)
// Активация
$robot->status = 'active';
@ -133,65 +129,39 @@ function connectAll(_document $worker): void
{
global $arangodb;
// Инициализация ребра: worker -> viber
// Инициализация ребра: workers -> viber
if (
collection::init($arangodb->session, 'viber')
&& $viber = collection::search(
$arangodb->session,
sprintf(
"FOR d IN viber FILTER d.number == '%d' RETURN d",
$worker->number
)
)
) connect($worker, $viber);
// Инициализация ребра: worker -> telegram
if (
collection::init($arangodb->session, 'telegram')
&& $viber = collection::search(
$arangodb->session,
sprintf(
"FOR d IN telegram FILTER d.number == '%d' RETURN d",
$worker->number
$worker->phone
)
)
) connect($worker, $viber);
}
function id()
{
global $arangodb;
return collection::search(
$arangodb->session,
"RETURN MAX((FOR d in worker RETURN +d.id))",
) + 1;
}
function sync(Row &$row, string $city = 'Красноярск'): void
function sync(Row &$row, string $city = 'Красноярск', array $formulas = []): void
{
global $arangodb;
// Инициализация строки в Google Sheet
$_row = init($row->toArray()['row']);
// Инициализация ФИО
$name = explode(' ', $_row['name']);
if (collection::init($arangodb->session, 'worker'))
if (!empty($_row['id']) && $worker = collection::search($arangodb->session, sprintf("FOR d IN worker FILTER d.id == '%s' RETURN d", $_row['id']))) {
if (collection::init($arangodb->session, 'workers'))
if (!empty($_row['id']) && $worker = collection::search($arangodb->session, sprintf("FOR d IN workers FILTER d.id == '%s' RETURN d", $_row['id']))) {
// Найдена запись работника (строки) в базе данных и включен режим перезаписи (приоритет - google sheets)
if (false && $worker->transfer_to_sheets) {
if ($worker->transfer_to_sheets) {
// Запрошен форсированный перенос данных из базы данных в таблицу
// Инициализация данных для записи в таблицу
/* $new = [
'id' => $worker->id ?? id(),
$new = [
'id' => $worker->id ?? '',
'name' => $worker->name ?? '',
'number' => convertNumber($worker->number ?? ''),
'phone' => convertNumber($worker->phone ?? ''),
'birth' => $worker->birth ?? '',
'address' => $worker->address ?? '',
'commentary' => $worker->commentary ?? '',
@ -205,100 +175,100 @@ function sync(Row &$row, string $city = 'Красноярск'): void
'fired' => $worker->fired ?? '',
'payment' => $worker->payment ?? '',
'tax' => $worker->tax ?? '',
]; */
];
// Замена NULL на пустую строку
/* foreach ($new as $key => &$value) if ($value === null) $value = ''; */
foreach ($new as $key => &$value) if ($value === null) $value = '';
// Реинициализация строки с новыми данными по ссылке (приоритет из базы данных)
/* if ($_row !== $new) $row = $row->set((new Flow())->read(From::array([init($new, true)]))->fetch(1)[0]->get('row')); */
if ($_row !== $new) $row = $row->set((new Flow())->read(From::array([init($new, true)]))->fetch(1)[0]->get('row'));
// Деактивация форсированного трансфера
/* $worker->transfer_to_sheets = false; */
$worker->transfer_to_sheets = false;
} else {
// Перенос изменений из Google Sheet в инстанцию документа в базе данных
// Реинициализация данных в инстанции документа в базе данных с данными из Google Sheet
/* foreach ($worker->getAll() as $key => $value) { */
// Перебор всех записанных значений в инстанции документа в базе данных
foreach ($worker->getAll() as $key => $value) {
// Перебор всех записанных значений в инстанции документа в базе данных
// Конвертация
/* $worker->{$key} = $_row[$key] ?? $value; */
/* } */
}
// Конвертация
$worker->{$key} = $_row[$key] ?? $value;
}
// Обновление инстанции документа в базе данных
/* document::update($arangodb->session, $worker); */
if (strlen($formulas[2]) < 12) {
// Не конвертирован номер
// Подключение к чат-роботам
/* connectAll($worker); */
} else if (
/* !empty($_row['id']) */
/* && !empty($_row['number']) */
/* && */
$worker = collection::search(
$arangodb->session,
sprintf(
"FOR d IN worker FILTER d._id == '%s' RETURN d",
document::write($arangodb->session, 'worker', [
'id' => $_row['id'] ?? id(),
'name' => [
'first' => $name[1] ?? $_row['name'] ?? '',
'second' => $name[0] ?? '',
'last' => $name[2] ?? ''
],
'number' => convertNumber($_row['number'] ?? ''),
// Инициализация номера
$number = convertNumber($_row['phone'] ?? '');
// Реинициализация строки с новыми данными по ссылке (приоритет из Google Sheets)
$row = $row->set((new Flow())->read(From::array([init([
'id' => $_row['id'] ?? '',
'name' => $_row['name'] ?? '',
'phone' => "=HYPERLINK(\"https://call.ctrlq.org/+$number\"; \"$number\")",
'birth' => $_row['birth'] ?? '',
'address' => $_row['address'] ?? '',
'commentary' => $_row['commentary'] ?? '',
'activity' => $_row['activity'] ?? '',
'passport' => $_row['passport'] ?? '',
'issued' => '',
'department' => [
'number' => $_row['department'] ?? '',
'address' => $_row['issued'] ?? ''
],
'issued' => $_row['issued'] ?? '',
'department' => $_row['department'] ?? '',
'hiring' => $_row['hiring'] ?? '',
'district' => $_row['district'] ?? '',
'requisites' => $_row['requisites'] ?? '',
'fired' => $_row['fired'] ?? '',
'payment' => $_row['payment'] ?? '',
'tax' => $_row['tax'] ?? '',
'city' => 'Красноярск' ?? $city,
'active' => true
], true)]))->fetch(1)[0]->get('row'));
}
}
// Обновление инстанции документа в базе данных
document::update($arangodb->session, $worker);
// Подключение к чат-роботам
connectAll($worker);
} else if (
!empty($_row['id'])
&& !empty($_row['phone'])
&& $worker = collection::search(
$arangodb->session,
sprintf(
"FOR d IN workers FILTER d._id == '%s' RETURN d",
document::write($arangodb->session, 'workers', [
'id' => $_row['id'] ?? '',
'name' => $_row['name'] ?? '',
'phone' => convertNumber($_row['phone'] ?? ''),
'birth' => $_row['birth'] ?? '',
'address' => $_row['address'] ?? '',
'commentary' => $_row['commentary'] ?? '',
'activity' => $_row['activity'] ?? '',
'passport' => $_row['passport'] ?? '',
'issued' => $_row['issued'] ?? '',
'department' => $_row['department'] ?? '',
'hiring' => $_row['hiring'] ?? '',
'district' => $_row['district'] ?? '',
'requisites' => $_row['requisites'] ?? '',
'fired' => $_row['fired'] ?? '',
'payment' => $_row['payment'] ?? '',
'tax' => $_row['tax'] ?? '',
'city' => $city,
'transfer_to_sheets' => false
])
)
)
) {
// Не найдена запись работника (строки) в базе данных и была создана
// Создание аккаунта
$account = document::write($arangodb->session, 'account', [
'type' => 'worker',
'name' => [
'first' => $name[1] ?? $_row['name'] ?? '',
'second' => $name[0] ?? '',
'last' => $name[2] ?? ''
],
'number' => convertNumber($_row['number'] ?? ''),
'active' => true
]);
// Подключение сотрудника к аккаунту. Создание ребра: account -> worker
document::write(
$arangodb->session,
'account_edge_worker',
['_from' => $account, '_to' => $worker->getId()]
);
// Инициализация номера
/* $number = convertNumber($_row['number'] ?? ''); */
$number = convertNumber($_row['phone'] ?? '');
// Реинициализация строки с новыми данными по ссылке (приоритет из Google Sheets)
/* $row = $row->set((new Flow())->read(From::array([init([
$row = $row->set((new Flow())->read(From::array([init([
'id' => $_row['id'] ?? '',
'name' => $_row['name'] ?? '',
'number' => "=HYPERLINK(\"https://call.ctrlq.org/+$number\"; \"$number\")",
'phone' => "=HYPERLINK(\"https://call.ctrlq.org/+$number\"; \"$number\")",
'birth' => $_row['birth'] ?? '',
'address' => $_row['address'] ?? '',
'commentary' => $_row['commentary'] ?? '',
@ -312,10 +282,10 @@ function sync(Row &$row, string $city = 'Красноярск'): void
'fired' => $_row['fired'] ?? '',
'payment' => $_row['payment'] ?? '',
'tax' => $_row['tax'] ?? '',
], true)]))->fetch(1)[0]->get('row')); */
], true)]))->fetch(1)[0]->get('row'));
// Подключение к чат-роботам
/* connectAll($worker); */
connectAll($worker);
} else return;
else throw new exception('Не удалось инициализировать коллекцию');
}
@ -327,26 +297,46 @@ $sheets = require(__DIR__ . '/../settings/workers/sheets.php');
$client = new Client();
$client->setScopes(Sheets::SPREADSHEETS);
$client->setAuthConfig($settings);
$api = new Sheets($client);
foreach ($sheets as $sheet) {
$rows = (new Flow())->read(new GoogleSheetExtractor($api, $document, new Columns($sheet, 'A', 'W'), true, 1000, 'row'));
// Перебор таблиц
// Инициализация обработчика таблиц
$sheets = new Sheets($client);
// Инициализация инстанции Flow для Google Sheet API
$rows = (new Flow())->read(new GoogleSheetExtractor($sheets, $document, new Columns($sheet, 'A', 'P'), true, 1000, 'row'));
// Инициализация счётчика итераций
$i = 1;
foreach ($rows->fetch(4183) as $row) {
$formulas = $sheets->spreadsheets_values->get($document, "$sheet!A:P", ['valueRenderOption' => 'FORMULA']) ?? null;
if ($formulas === null) continue;
foreach ($rows->fetch(5000) as $row) {
// Перебор строк
// Запись счётчика
++$i;
// Инициализация буфера строки
$buffer = $row;
sync($row, $sheet);
// Синхронизация с базой данных
sync($row, $sheet, $formulas[$i - 1]);
// Запись изменений строки в Google Sheet
if ($buffer !== $row) {
/* $api->spreadsheets_values->update(
$sheets->spreadsheets_values->update(
$document,
"$sheet!A$i:P$i",
new ValueRange(['values' => [array_values($row->entries()->toArray()['row'])]]),
['valueInputOption' => 'USER_ENTERED']
); */
);
// Ожидание для того, чтобы снизить шанс блокировки от Google
/* sleep(3); */
sleep(3);
}
}
}

207
mirzaev/spetsresurs/google_sheets/parser/system/public/works.php Executable file → Normal file
View File

@ -32,22 +32,29 @@ $arangodb = new connection(require __DIR__ . '/../settings/arangodb.php');
function generateLabel(string $name): string
{
return match ($name) {
'created_in_sheets', 'Отметка времени' => 'created_in_sheets',
'updated_in_sheets', 'время последнего изменения' => 'updated_in_sheets',
'date', 'дата заявки' => 'date',
'market', '№ магазина' => 'market',
'type', 'формат' => 'type',
'address', 'адрес' => 'address',
'worker', 'Код сотрудника (000000)' => 'worker',
'imported_created_in_sheets', 'Отметка времени' => 'imported_created_in_sheets',
'imported_date', 'Дата заявки' => 'imported_date',
'imported_market', 'Ваш магазин' => 'imported_market',
'imported_worker', 'Требуемый сотрудник' => 'imported_worker',
'imported_work', 'Вид работы' => 'imported_work',
'imported_start', 'Начало работы' => 'imported_start',
'imported_end', 'Конец работы' => 'imported_end',
'imported_hours', 'Часы работы' => 'imported_hours',
'created_in_sheets', 'Создано' => 'created_in_sheets',
'date', 'Дата' => 'date',
'market', 'Магазин' => 'market',
'type', 'Тип' => 'type',
'address', 'Адрес' => 'address',
'worker', 'Сотрудник' => 'worker',
'name', 'ФИО' => 'name',
'work', 'Вид работ' => 'work',
'start', 'Время начала заявки' => 'start',
'end', 'Время окончания заявки' => 'end',
'hours', 'Количество часов по заявке' => 'hours',
'work', 'Работа' => 'work',
'start', 'Начало' => 'start',
'end', 'Конец' => 'end',
'hours', 'Часы' => 'hours',
'tax', 'ИНН' => 'tax',
'confirmed', 'подтверждение' => 'confirmed',
'commentary', 'примечание от ТТ' => 'commentary',
'response', 'ответ от контрагента' => 'response',
'confirmed', 'Подтверждено' => 'confirmed',
'commentary', 'Комментарий' => 'commentary',
'response', 'Ответ' => 'response',
'_id', 'ID' => '_id',
default => $name
};
@ -56,22 +63,29 @@ function generateLabel(string $name): string
function degenerateLabel(string $name): string
{
return match ($name) {
'Отметка времени', 'created_in_sheets' => 'Отметка времени',
'время последнего изменения', 'updated_in_sheets' => 'время последнего изменения',
'дата заявки', 'date' => 'дата заявки',
'№ магазина', 'market' => '№ магазина',
'формат', 'type' => 'формат',
'адрес', 'address' => 'адрес',
'Код сотрудника (000000)', 'worker' => 'Код сотрудника (000000)',
'Отметка времени', 'imported_created_in_sheets' => 'Отметка времени',
'Дата заявки', 'imported_date' => 'Дата заявки',
'Ваш магазин', 'imported_market' => 'Ваш магазин',
'Требуемый сотрудник', 'imported_worker' => 'Требуемый сотрудник',
'Вид работы', 'imported_work' => 'Вид работы',
'Начало работы', 'imported_start' => 'Начало работы',
'Конец работы', 'imported_end' => 'Конец работы',
'Часы работы', 'imported_hours' => 'Часы работы',
'Создано', 'created_in_sheets' => 'Создано',
'Дата', 'date' => 'Дата',
'Магазин', 'market' => 'Магазин',
'Тип', 'type' => 'Тип',
'Адрес', 'address' => 'Адрес',
'Сотрудник', 'worker' => 'Сотрудник',
'ФИО', 'name' => 'ФИО',
'Вид работ', 'work' => 'Вид работ',
'Время начала заявки', 'start' => 'Время начала заявки',
'Время окончания заявки', 'end' => 'Время окончания заявки',
'Количество часов по заявке', 'hours' => 'Количество часов по заявке',
'Работа', 'work' => 'Работа',
'Начало', 'start' => 'Начало',
'Конец', 'end' => 'Конец',
'Часы', 'hours' => 'Часы',
'ИНН', 'tax' => 'ИНН',
'подтверждение', 'confirmed' => 'подтверждение',
'примечание от ТТ', 'commentary' => 'примечание от ТТ',
'ответ от контрагента', 'response' => 'ответ от контрагента',
'Подтверждено', 'confirmed' => 'Подтверждено',
'Комментарий', 'commentary' => 'Комментарий',
'Ответ', 'response' => 'Ответ',
'ID', '_id' => 'ID',
default => $name
};
@ -81,12 +95,11 @@ function filterWorker(?string $worker): string
{
global $arangodb;
return match ($worker) {
return match ((int) $worker) {
'Отмена', 'отмена', 'ОТМЕНА' => 'Отмена',
'', 0, 00, 000, 0000, 00000, 000000, 0000000, 00000000, 000000000, 0000000000 => '',
default => (function () use ($worker, $arangodb) {
return $worker;
/* if (
if (
collection::init($arangodb->session, 'workers')
&& collection::search(
$arangodb->session,
@ -96,7 +109,7 @@ function filterWorker(?string $worker): string
)
)
) return $worker;
else return $worker; */
else return '';
})()
};
}
@ -111,7 +124,7 @@ function init(array $row, bool $reverse = false): array
}
function sync(int $_i, Row &$row, ?array $raw = null): void
function sync(int $_i, Row &$row, array $raw = []): void
{
global $arangodb;
@ -131,22 +144,29 @@ function sync(int $_i, Row &$row, ?array $raw = null): void
// Инициализация данных для записи в таблицу
$new = [
'imported_created_in_sheets' => $work->imported_created_in_sheets,
'imported_date' => $work->imported_date,
'imported_market' => $work->imported_market,
'imported_worker' => $work->imported_worker,
'imported_work' => $work->imported_work,
'imported_start' => $work->imported_start,
'imported_end' => $work->imported_end,
'imported_hours' => $work->imported_hours,
'created_in_sheets' => $work->created_in_sheets,
'date' => $work->date,
'market' => $work->market,
'type' => $work->type,
'address' => $work->address,
'worker' => $work->worker,
'name' => $work->name,
'work' => $work->work,
'start' => $work->start,
'end' => $work->end,
'hours' => $work->hours,
'market' => $work->market,
'type' => $work->type,
'address' => $work->address,
'tax' => $work->tax,
'confirmed' => $work->confirmed,
'commentary' => $work->commentary,
'response' => $work->response,
'updated_in_sheets' => $work->updated_in_sheets,
'tax' => $work->tax,
'_id' => $work->getId(),
];
@ -255,7 +275,7 @@ function sync(int $_i, Row &$row, ?array $raw = null): void
$_row['market']
)
)) {
// Инициализирована инстанция документа в базе данных нового мазагина
// Инициализирована инстанция документа в базе данных нового магазина
// Реинициализация магазина
$request->_from = $_market->getId();
@ -286,28 +306,35 @@ function sync(int $_i, Row &$row, ?array $raw = null): void
} else if (
(!empty($_row['imported_market']) || !empty($_row['market']))
&& collection::init($arangodb->session, 'requests', true) && collection::init($arangodb->session, 'markets')
&& ($market = collection::search($arangodb->session, sprintf("FOR d IN markets FILTER d.id == '%s' RETURN d", $_row['imported_market'] ?? $_row['market'])))
&& ($market = collection::search($arangodb->session, sprintf("FOR d IN markets FILTER d.id == '%s' RETURN d", $raw[2] ?? $_row[10])))
&& $work = collection::search(
$arangodb->session,
sprintf(
"FOR d IN works FILTER d._id == '%s' RETURN d",
document::write($arangodb->session, 'works', [
'created_in_sheets' => $raw[0] ?? '',
'date' => $raw[1] ?? '',
'worker' => filterWorker($_row['worker'] ?? ''),
'name' => "=ЕСЛИ(СОВПАД(\$A$_i;\"\");\"\"; ЕСЛИ( НЕ(СОВПАД(IFNA(ВПР(\$C$_i;part_import_KRSK!\$R$2:\$R$4999;1;);\"\");\$C$_i)); ЕСЛИ((СОВПАД(IFNA(ВПР(\$C$_i;part_import_KRSK!\$I\$2:\$L\$4999;4);\"\");\"\")); IFNA(ВПР(\$C$_i;part_import_KRSK!\$I\$2:\$J\$4999;2;); \"Сотрудник не назначен\"); \"УВОЛЕН (В списке работающих)\"); \"УВОЛЕН (В списке уволенных)\"))",
'work' => $_row['work'] ?? '',
'start' => $raw[5] ?? '',
'end' => $raw[6] ?? '',
'hours' => $_row['hours'] ?? '',
'market' => $_row['market'] ?? '',
'type' => "=ЕСЛИ(СОВПАД(A$_i;\"\");\"\"; IFNA(ВПР(I$_i;part_import_KRSK!\$B\$2:\$E\$15603;2;);\"Нет в базе\"))",
'address' => "=ЕСЛИ(СОВПАД(A$_i;\"\");\"\"; IFNA(ВПР(I$_i;part_import_KRSK!\$B\$2:\$E\$15603;4;);\"Нет в базе\"))",
'imported_created_in_sheets' => $raw[0],
'imported_date' => $raw[1],
'imported_market' => $raw[2],
'imported_worker' => $raw[3],
'imported_work' => $raw[4],
'imported_start' => $raw[5],
'imported_end' => $raw[6],
'imported_hours' => $raw[7],
'created_in_sheets' => $raw[0] ?? $raw[8],
'date' => $raw[1] ?? $raw[9],
'market' => $raw[2] ?? $raw[10],
'type' => "=ЕСЛИ(СОВПАД(I$_i;\"\");\"\"; IFNA(ВПР(K$_i;part_import_KRSK!\$B\$2:\$E\$15603;2;);\"Нет в базе\"))",
'address' => "=ЕСЛИ(СОВПАД(I$_i;\"\");\"\"; IFNA(ВПР(K$_i;part_import_KRSK!\$B\$2:\$E\$15603;4;);\"Нет в базе\"))",
'worker' => filterWorker($raw[13] ?? $raw[3]),
'name' => "=ЕСЛИ(СОВПАД(\$I$_i;\"\");\"\"; ЕСЛИ( НЕ(СОВПАД(IFNA(ВПР(\$N$_i;part_import_KRSK!\$R$2:\$R$4999;1;);\"\");\$N$_i)); ЕСЛИ((СОВПАД(IFNA(ВПР(\$N$_i;part_import_KRSK!\$I\$2:\$L\$4999;4);\"\");\"\")); IFNA(ВПР(\$N$_i;part_import_KRSK!\$I\$2:\$J\$4999;2;); \"Сотрудник не назначен\"); \"УВОЛЕН (В списке работающих)\"); \"УВОЛЕН (В списке уволенных)\"))",
'work' => $raw[4] ?? $raw[15],
'start' => $raw[5] ?? $raw[16],
'end' => $raw[6] ?? $raw[17],
'hours' => $raw[7] ?? $raw[18],
'tax' => "=ЕСЛИ(СОВПАД(\$I$_i;\"\");\"\"; IFNA(ВПР(\$N$_i;part_import_KRSK!\$I\$2:\$K\$5000;3;); IFNA(ВПР(\$N$_i;part_import_KRSK!\$R\$2:\$T\$5000;3;);\"000000000000\")))",
'confirmed' => $_row['confirmed'] ?? '',
'commentary' => $_row['commentary'] ?? '',
'response' => $_row['response'] ?? '',
'updated_in_sheets' => $raw[14] ?? '',
'tax' => "=ЕСЛИ(СОВПАД(\$A$_i;\"\");\"\"; IFNA(ВПР(\$C$_i;part_import_KRSK!\$I\$2:\$K\$5000;3;); IFNA(ВПР(\$C$_i;part_import_KRSK!\$R\$2:\$T\$5000;3;);\"000000000000\")))",
'transfer_to_sheets' => false
])
)
@ -346,23 +373,30 @@ function sync(int $_i, Row &$row, ?array $raw = null): void
// Реинициализация строки с новыми данными по ссылке (приоритет из Google Sheets)
$row = $row->set((new Flow())->read(From::array([init([
'created_in_sheets' => $raw[0] ?? '',
'date' => $raw[1] ?? '',
'worker' => filterWorker($_row['worker'] ?? ''),
'name' => "=ЕСЛИ(СОВПАД(\$A$_i;\"\");\"\"; ЕСЛИ( НЕ(СОВПАД(IFNA(ВПР(\$C$_i;part_import_KRSK!\$R$2:\$R$4999;1;);\"\");\$C$_i)); ЕСЛИ((СОВПАД(IFNA(ВПР(\$C$_i;part_import_KRSK!\$I\$2:\$L\$4999;4);\"\");\"\")); IFNA(ВПР(\$C$_i;part_import_KRSK!\$I\$2:\$J\$4999;2;); \"Сотрудник не назначен\"); \"УВОЛЕН (В списке работающих)\"); \"УВОЛЕН (В списке уволенных)\"))",
'work' => $_row['work'] ?? '',
'start' => $raw[5] ?? '',
'end' => $raw[6] ?? '',
'hours' => $_row['hours'] ?? '',
'market' => $_row['market'] ?? '',
'type' => "=ЕСЛИ(СОВПАД(A$_i;\"\");\"\"; IFNA(ВПР(I$_i;part_import_KRSK!\$B\$2:\$E\$15603;2;);\"Нет в базе\"))",
'address' => "=ЕСЛИ(СОВПАД(A$_i;\"\");\"\"; IFNA(ВПР(I$_i;part_import_KRSK!\$B\$2:\$E\$15603;4;);\"Нет в базе\"))",
'imported_created_in_sheets' => $raw[0] ?? '',
'imported_date' => $raw[1] ?? '',
'imported_market' => $_row['imported_market'] ?? '',
'imported_worker' => $_row['imported_worker'] ?? '',
'imported_work' => $_row['imported_work'] ?? '',
'imported_start' => $raw[5] ?? '',
'imported_end' => $raw[6] ?? '',
'imported_hours' => $_row['imported_hours'] ?? '',
'created_in_sheets' => $raw[0] ?? $raw[8],
'date' => $raw[1] ?? $raw[9],
'market' => $raw[2] ?? $raw[10],
'type' => "=ЕСЛИ(СОВПАД(I$_i;\"\");\"\"; IFNA(ВПР(K$_i;part_import_KRSK!\$B\$2:\$E\$15603;2;);\"Нет в базе\"))",
'address' => "=ЕСЛИ(СОВПАД(I$_i;\"\");\"\"; IFNA(ВПР(K$_i;part_import_KRSK!\$B\$2:\$E\$15603;4;);\"Нет в базе\"))",
'worker' => filterWorker($raw[13] ?? $raw[3]),
'name' => "=ЕСЛИ(СОВПАД(\$I$_i;\"\");\"\"; ЕСЛИ( НЕ(СОВПАД(IFNA(ВПР(\$N$_i;part_import_KRSK!\$R$2:\$R$4999;1;);\"\");\$N$_i)); ЕСЛИ((СОВПАД(IFNA(ВПР(\$N$_i;part_import_KRSK!\$I\$2:\$L\$4999;4);\"\");\"\")); IFNA(ВПР(\$N$_i;part_import_KRSK!\$I\$2:\$J\$4999;2;); \"Сотрудник не назначен\"); \"УВОЛЕН (В списке работающих)\"); \"УВОЛЕН (В списке уволенных)\"))",
'work' => $raw[4] ?? $raw[15],
'start' => $raw[5] ?? $raw[16],
'end' => $raw[6] ?? $raw[17],
'hours' => $raw[7] ?? $raw[18],
'tax' => "=ЕСЛИ(СОВПАД(\$I$_i;\"\");\"\"; IFNA(ВПР(\$N$_i;part_import_KRSK!\$I\$2:\$K\$5000;3;); IFNA(ВПР(\$N$_i;part_import_KRSK!\$R\$2:\$T\$5000;3;);\"000000000000\")))",
'confirmed' => $_row['confirmed'] ?? '',
'commentary' => $_row['commentary'] ?? '',
'response' => $_row['response'] ?? '',
'updated_in_sheets' => $raw[14] ?? '',
'tax' => "=ЕСЛИ(СОВПАД(\$A$_i;\"\");\"\"; IFNA(ВПР(\$C$_i;part_import_KRSK!\$I\$2:\$K\$5000;3;); IFNA(ВПР(\$C$_i;part_import_KRSK!\$R\$2:\$T\$5000;3;);\"000000000000\")))",
'_id' => $_row['_id'] ?? ''
'_id' => $_row['_id'] ?? '',
], true)]))->fetch(1)[0]->get('row'));
} else return;
else throw new exception('Не удалось инициализировать коллекцию');
@ -382,32 +416,53 @@ foreach ($sheets as $sheet) {
// Инициализация обработчика таблиц
$sheets = new Sheets($client);
// Инициализация инстанций Flow для Google Sheet API
$formulas = (new Flow())->read(new GoogleSheetExtractor($sheets, $document, new Columns($sheet, 'A', 'Q'), true, 1000, 'row', ['valueRenderOption' => 'FORMULA']));
$rows = $sheets->spreadsheets_values->get($document, "$sheet!A:Q");
// Инициализация инстанции Flow для Google Sheet API
$rows = (new Flow())->read(new GoogleSheetExtractor($sheets, $document, new Columns($sheet, 'A', 'X'), true, 1000, 'row'));
// Инициализация счётчика итераций
$i = 1;
foreach ($formulas->fetch(50000) as $formula) {
$raws = $sheets->spreadsheets_values->get($document, "$sheet!A:X") ?? null;
if ($raws === null) continue;
foreach ($rows->fetch(10000) as $row) {
// Перебор строк
// Запись счётчика
++$i;
// Инициализация буфера строки
$buffer = $formula;
$buffer = $row;
// Синхронизация с базой данных
sync($i, $formula, $rows[$i - 1] ?? null);
sync($i, $row, $raws[$i - 1]);
// Запись изменений строки в Google Sheet
if ($buffer !== $formula) {
if ($buffer !== $row) {
$row = init($row->toArray()['row']);
$sheets->spreadsheets_values->update(
$document,
"$sheet!A$i:Q$i",
new ValueRange(['values' => [array_values($formula->entries()->toArray()['row'])]]),
"$sheet!I$i:X$i",
new ValueRange(['values' => [array_values(init([
'created_in_sheets' => $row['created_in_sheets'] ?? '',
'date' => $row['date'] ?? '',
'market' => $row['market'] ?? '',
'type' => $row['type'] ?? '',
'address' => $row['address'] ?? '',
'worker' => $row['worker'] ?? '',
'name' => $row['name'] ?? '',
'work' => $row['work'] ?? '',
'start' => $row['start'] ?? '',
'end' => $row['end'] ?? '',
'hours' => $row['hours'] ?? '',
'tax' => $row['tax'] ?? '',
'confirmed' => $row['confirmed'] ?? '',
'commentary' => $row['commentary'] ?? '',
'response' => $row['response'] ?? '',
'_id' => $row['_id'] ?? '',
], true))]]),
['valueInputOption' => 'USER_ENTERED']
);

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/.gitignore vendored Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/arangodb.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/markets/.gitignore vendored Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/markets/document.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/markets/google.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/markets/sheets.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/workers/.gitignore vendored Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/workers/document.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/workers/google.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/workers/sheets.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/works/.gitignore vendored Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/works/document.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/works/google.php.sample Executable file → Normal file
View File

0
mirzaev/spetsresurs/google_sheets/parser/system/settings/works/sheets.php.sample Executable file → Normal file
View File

0
sheets/markets.xlsx Executable file → Normal file
View File

0
sheets/workers.xlsx Executable file → Normal file
View File

0
sheets/works.xlsx Executable file → Normal file
View File