Perubahan yang dilakukan: - ProcessCompanyDataJob: - Memodifikasi method processRow dengan menambahkan logika array_pop($row) untuk menghapus elemen terakhir dari array CSV. - Menambahkan validasi count($row) > 0 untuk memastikan array tidak kosong sebelum diproses. - Mempertahankan validasi jumlah kolom sesuai FIELD_MAP untuk menjaga konsistensi data. - Menambahkan log informasi saat field terakhir berhasil dihapus dari setiap baris. - Mencatat jumlah kolom baru setelah penghapusan untuk keperluan debugging dan monitoring. - Mengurangi overhead processing dengan mengabaikan kolom tambahan yang tidak diperlukan. - Memastikan integritas data tetap terjaga saat mapping ke model Branch. - Tidak mengubah struktur FIELD_MAP yang sudah ada untuk menjaga kompatibilitas. - Mempertahankan fungsi validasi dan error handling yang sudah berjalan. - ProcessDataCaptureDataJob: - Memodifikasi method processRow dengan logika array_pop($row) untuk menghapus kolom terakhir dari array CSV. - Menambahkan pengecekan count($row) > 0 untuk validasi array. - Mempertahankan validasi jumlah kolom sesuai CSV_HEADERS untuk memastikan kesesuaian data. - Menambahkan log saat kolom terakhir berhasil dihapus untuk setiap baris yang diproses. - Mencatat jumlah kolom baru setelah penghapusan sebagai bagian dari monitoring. - Memastikan hanya kolom yang didefinisikan dalam CSV_HEADERS yang diproses untuk efisiensi. - Mengurangi beban proses dengan mengabaikan field yang tidak relevan pada CSV input. - Mempertahankan integritas data dan mapping ke model DataCapture. - Tidak mengubah sistem batch processing yang ada, tetap menggunakan CHUNK_SIZE = 1000. - Mempertahankan performa dengan bulk insert dan upsert untuk data besar. - Memastikan efisiensi memory dengan chunk processing. - Menjaga struktur CSV_HEADERS dan proses validasi agar tetap kompatibel dengan sistem yang sudah berjalan. Tujuan perubahan: - Memungkinkan sistem untuk mengabaikan kolom tambahan di akhir file CSV baik untuk data company maupun data capture tanpa mengganggu proses import. - Menghindari error atau kegagalan parsing saat terdapat tambahan kolom dari sistem eksternal. - Meningkatkan fleksibilitas sistem dalam menghadapi input CSV yang tidak selalu konsisten secara jumlah kolom. - Menjaga performa dan efisiensi proses dengan tetap mempertahankan proses batch dan chunking. - Memastikan seluruh perubahan tetap backward compatible dengan proses yang sudah ada.
216 lines
7.3 KiB
PHP
216 lines
7.3 KiB
PHP
<?php
|
|
|
|
namespace Modules\Webstatement\Jobs;
|
|
|
|
use Exception;
|
|
use Illuminate\Bus\Queueable;
|
|
use Illuminate\Contracts\Queue\ShouldQueue;
|
|
use Illuminate\Foundation\Bus\Dispatchable;
|
|
use Illuminate\Queue\InteractsWithQueue;
|
|
use Illuminate\Queue\SerializesModels;
|
|
use Illuminate\Support\Facades\Log;
|
|
use Illuminate\Support\Facades\Storage;
|
|
use Modules\Basicdata\Models\Branch;
|
|
|
|
class ProcessCompanyDataJob implements ShouldQueue
|
|
{
|
|
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
|
|
|
|
private const CSV_DELIMITER = '~';
|
|
private const MAX_EXECUTION_TIME = 86400; // 24 hours in seconds
|
|
private const FILENAME = 'ST.COMPANY.csv';
|
|
private const DISK_NAME = 'sftpStatement';
|
|
private const FIELD_MAP = [
|
|
'id' => null, // Not mapped to model
|
|
'date_time' => null, // Not mapped to model
|
|
'company_code' => 'code',
|
|
'company_name' => 'name',
|
|
'name_address' => 'address',
|
|
'mnemonic' => 'mnemonic',
|
|
'customer_company' => 'customer_company',
|
|
'customer_mnemonic' => 'customer_mnemonic',
|
|
'company_group' => 'company_group',
|
|
'curr_no' => 'curr_no',
|
|
'co_code' => 'co_code',
|
|
'l_vendor_atm' => 'l_vendor_atm',
|
|
'l_vendor_cpc' => 'l_vendor_cpc'
|
|
];
|
|
private const BOOLEAN_FIELDS = ['l_vendor_atm', 'l_vendor_cpc'];
|
|
|
|
private string $period = '';
|
|
private int $processedCount = 0;
|
|
private int $errorCount = 0;
|
|
|
|
/**
|
|
* Create a new job instance.
|
|
*/
|
|
public function __construct(string $period = '')
|
|
{
|
|
$this->period = $period;
|
|
}
|
|
|
|
/**
|
|
* Execute the job.
|
|
*/
|
|
public function handle()
|
|
: void
|
|
{
|
|
try {
|
|
$this->initializeJob();
|
|
|
|
if ($this->period === '') {
|
|
Log::warning('No period provided for company data processing');
|
|
return;
|
|
}
|
|
|
|
$this->processPeriod();
|
|
$this->logJobCompletion();
|
|
} catch (Exception $e) {
|
|
Log::error('Error in ProcessCompanyDataJob: ' . $e->getMessage());
|
|
throw $e;
|
|
}
|
|
}
|
|
|
|
private function initializeJob()
|
|
: void
|
|
{
|
|
set_time_limit(self::MAX_EXECUTION_TIME);
|
|
$this->processedCount = 0;
|
|
$this->errorCount = 0;
|
|
}
|
|
|
|
private function processPeriod()
|
|
: void
|
|
{
|
|
$disk = Storage::disk(self::DISK_NAME);
|
|
$filename = "{$this->period}." . self::FILENAME;
|
|
$filePath = "{$this->period}/$filename";
|
|
|
|
if (!$this->validateFile($disk, $filePath)) {
|
|
return;
|
|
}
|
|
|
|
$tempFilePath = $this->createTemporaryFile($disk, $filePath, $filename);
|
|
$this->processFile($tempFilePath, $filePath);
|
|
$this->cleanup($tempFilePath);
|
|
}
|
|
|
|
private function validateFile($disk, string $filePath)
|
|
: bool
|
|
{
|
|
Log::info("Processing company file: $filePath");
|
|
|
|
if (!$disk->exists($filePath)) {
|
|
Log::warning("File not found: $filePath");
|
|
return false;
|
|
}
|
|
|
|
return true;
|
|
}
|
|
|
|
private function createTemporaryFile($disk, string $filePath, string $filename = self::FILENAME)
|
|
: string
|
|
{
|
|
$tempFilePath = storage_path("app/temp_$filename");
|
|
file_put_contents($tempFilePath, $disk->get($filePath));
|
|
return $tempFilePath;
|
|
}
|
|
|
|
private function processFile(string $tempFilePath, string $filePath)
|
|
: void
|
|
{
|
|
$handle = fopen($tempFilePath, "r");
|
|
if ($handle === false) {
|
|
Log::error("Unable to open file: $filePath");
|
|
return;
|
|
}
|
|
|
|
$rowCount = 0;
|
|
while (($row = fgetcsv($handle, 0, self::CSV_DELIMITER)) !== false) {
|
|
$rowCount++;
|
|
|
|
// Skip header row if it exists
|
|
if ($rowCount === 1 && (strtolower($row[0]) === 'id' || strtolower($row[2]) === 'company_code')) {
|
|
continue;
|
|
}
|
|
|
|
$this->processRow($row, $rowCount, $filePath);
|
|
}
|
|
|
|
fclose($handle);
|
|
Log::info("Completed processing $filePath. Processed {$this->processedCount} records with {$this->errorCount} errors.");
|
|
}
|
|
|
|
private function processRow(array $row, int $rowCount, string $filePath)
|
|
: void
|
|
{
|
|
// Exclude the last field from CSV
|
|
if (count($row) > 0) {
|
|
array_pop($row);
|
|
Log::info("Excluded last field from row $rowCount. New column count: " . count($row));
|
|
}
|
|
|
|
$csvHeaders = array_keys(self::FIELD_MAP);
|
|
|
|
if (count($csvHeaders) !== count($row)) {
|
|
Log::warning("Row $rowCount in $filePath has incorrect column count. Expected: " .
|
|
count($csvHeaders) . ", Got: " . count($row));
|
|
return;
|
|
}
|
|
|
|
$csvData = array_combine($csvHeaders, $row);
|
|
$this->mapAndSaveRecord($csvData, $rowCount, $filePath);
|
|
}
|
|
|
|
private function mapAndSaveRecord(array $csvData, int $rowCount, string $filePath)
|
|
: void
|
|
{
|
|
// Map CSV data to Branch model fields
|
|
$branchData = [];
|
|
foreach (self::FIELD_MAP as $csvField => $modelField) {
|
|
if ($modelField !== null && isset($csvData[$csvField])) {
|
|
// Convert string boolean values to actual booleans for boolean fields
|
|
if (in_array($modelField, self::BOOLEAN_FIELDS)) {
|
|
$branchData[$modelField] = filter_var($csvData[$csvField], FILTER_VALIDATE_BOOLEAN);
|
|
} else {
|
|
$branchData[$modelField] = $csvData[$csvField];
|
|
}
|
|
}
|
|
}
|
|
|
|
$this->saveRecord($branchData, $rowCount, $filePath);
|
|
}
|
|
|
|
private function saveRecord(array $branchData, int $rowCount, string $filePath)
|
|
: void
|
|
{
|
|
try {
|
|
if (!empty($branchData['code'])) {
|
|
Branch::updateOrCreate(
|
|
['code' => $branchData['code']],
|
|
$branchData
|
|
);
|
|
$this->processedCount++;
|
|
}
|
|
} catch (Exception $e) {
|
|
$this->errorCount++;
|
|
Log::error("Error processing Company data at row $rowCount in $filePath: " . $e->getMessage());
|
|
}
|
|
}
|
|
|
|
private function cleanup(string $tempFilePath)
|
|
: void
|
|
{
|
|
if (file_exists($tempFilePath)) {
|
|
unlink($tempFilePath);
|
|
}
|
|
}
|
|
|
|
private function logJobCompletion()
|
|
: void
|
|
{
|
|
Log::info("Company data processing completed. " .
|
|
"Total processed: {$this->processedCount}, Total errors: {$this->errorCount}");
|
|
}
|
|
}
|