CERITA 24: R square(R kuasa dua) dalam analisis regresi

CERITA 24: R square (R kuasa dua) dalam analisis regresi


Salam, hari ni kita bercerita sedikit tentang R squared.

R squared, (R² = R kuasa dua) adalah peratus varians dalam pemboleh ubah bersandar (dependent variable) yang diterangkan oleh pemboleh ubah tidak bersandar (independent variable) dalam model regresi. R square adalah ukuran statistik yang menunjukkan bagaimana data terletak hampir dengan garis regresi yang dipadankan. Nilai R square adalah di antara 0 – 1, atau bila diterjemahkan dalam bentuk peratus, antara 0-100%.

R square juga dikenali dengan nama coefficient of determination.

Secara amnya, semakin tinggi nilai R square, semakin bagus data berpadanan dengan model. Namun, sebelum kita bergantung pada nilai R square ini, beberapa diagnostik lain harus disemak terlebih dahulu untuk mengelakkan dapatan analisis yang tidak tepat.

Rumus bagi R squared adalah seperti berikut:

Gambaran visual berkenaan R square

Sumber: google

R squared untuk model regresi di sebelah kiri adalah 38% manakala di sebelah kanan adalah 87.4%. Semakin tinggi varians yang dikira oleh model regresi, semakin hampir poin-poin data akan terletak berdekatan garis regresi yang dipadankan.

Adakah nilai r square yang rendah membawa implikasi yang buruk? Tidak, kerana ada beberapa sebab mengapa nilai yang rendah dalam kajian dikatakan ok sahaja. Dalam sesetengah bidang, adalah dijangka bahawa nilai R square adalah rendah. Contohnya bidang yang cuba untuk meramal tingkahlaku manusia, seperti kajian psikologi, lazimnya akan mendapat nilai R square yang kurang daripada 50%. Ini kerana dikatakan manusia adalah lebih sukar untuk diramal, berbanding dengan sesuatu proses fizikal.

Ok sekian sahaja untuk kali ini. Ada cerita dan masa saya kongsi lagi. Terima kasih sudi membaca.

CERITA 23: Boxplot (plot kotak) untuk mengenalpasti data terpencil (outliers) bagi data univariat

CERITA 23: Boxplot (plot kotak) untuk mengenalpasti data terpencil (outliers) bagi data univariat


Assalamualaikum dan selamat tahun baharu 2019 kepada sahabat pembaca semua!

Hari ini saya nak kongsikan kaedah untuk mengenalpasti outliers (data terpencil) dalam data univariat (1 pembolehubah). Kalau ikut article dalam ni, kesemuanya ada 39 teknik termasuk univariat dan multivariat (pengsann) kalau anda rajin nak baca bolehlah refer Aguinis et al (2013)

Sebenarnya terdapat pelbagai kaedah digunakan untuk mengenalpasti outlier, salah satu kaedah adalah menggunakan boxplot.

Boxplot (plot kotak)

Sumber: Google

Tukey (1977) memperkenalkan kaedah grafik dipanggil boxplot untuk meringkaskan data univariat.  Menurut Tukey (1977), menyatakan bahawa suatu cerapan itu ditakrifkan sebagai terpencil jika ia terletak di luar selang ini menggunakan rumus:

((Q1 - g (Q3 - Q1), Q3 + g (Q3 - Q1))

di mana g yang lazim digunakan dalam rumus ini adalah 1.5.

Ada juga artikel yang menggunakan g sebagai 3.0. Namun menurut Hoaglin et al (1986), peraturan boxplot dengan g = 1.5 ini adalah agak liberal untuk kebanyakan cerapan yang normal.

Untuk mencari outliers bagi satu pembolehubah menggunakan SPSS,

 Analyze > Descriptive > Explore > Dependent list (masukkan pembolehubah berkenaan) > Klik Statistics > pilih Outliers dan percentiles > klik ‘continue’


Pada output, rujuk jadual ‘percentiles’, refer pada baris ‘weighted average’ dan lajur ‘25’ percentiles dan lajur ‘75’ percentiles.

•       Lajur ‘25’ percentiles adalah nilai Q1 kita
•       Lajur 75’ percentiles adalah nilai Q3 kita.

Manakala nilai g adalah 1.5

Menggunakan rumus  ((Q1 - g (Q3 - Q1), Q3 + g (Q3 - Q1)),

Cari nilai had bawah dan nilai had atas bagi pembolehubah tersebut. Di mana;

• Nilai had bawah = Q1 - g (Q3 - Q1), katalah nilai had bawah = a
• Nilai had atas = Q3 + g (Q3 - Q1), katalah nilai had atas = b

Maka, menggunakan teknik peraturan 1.5 julat antara kuartil (1.5xIQR rules) ini, maka nilai < a dan nilai yang > b adalah outliers dalam data tersebut.

Bagi mengenalpasti case id yang mempunyai nilai outliers ini, kita boleh refer pada output , jadual bertajuk ‘extreme values’. ‘Highest’ merujuk pada nilai ekstrim pada had atas, manakala ‘lowest’ merujuk pada nilai ekstrim pada had bawah. Menggunakan kaedah ini, kita dapat kenal pasti case id yang dikenalpasti sebagai outliers iaitu yang terletak pada nilai < a dan nilai yang > b.


Sekian, ada cerita dan masa saya kongsi lagi. TQ sudi membaca!



Rujukan:

Hoaglin, D. C., and Iglewicz, B. (1987), “Fine Tuning Some Resistant Rules for Outlier Labeling”, Journal of American Statistical Association., 82, 1147-1149.

Tukey, J.W. (1977), Exploratory Data Analysis, Reading, MA: Addison-Wesley. 

CERITA 22: Crosstab dan hubungan antara dua pembolehubah nominal (Chi square)

CERITA 22: Hubungan (korelasi) antara dua pembolehubah (Chi square)

Assalamualaikum semua pembaca yang dihormati, topik ni dah lama simpan baru ada kesempatan untuk menulis.

Tabulasi silang (crosstabulation) 

Tabulasi silang (crosstabulation) adalah  satu jadual yang terdiri daripada beberapa kumpulan frekuensi bagi  beberapa pemboleubah.

Contoh kita nak tahu adakah pesakit patuh terhadap prosedur rawatan dialisis (Ya/Tidak) mengikut tahap pendidikan (SPM/Diploma/Ijazah)?

Di sini kita ada dua pembolehubah iaitu :
1. Kepatuhan terhadap prosedur rawatan (2 kategori)
2. Tahap pendidikan (3 kategori)

Maka daripada data yang kita ada, kita boleh bina jadual tabulasi silang di SPSS dengan klik Analyze> Descriptive Statistics > Crosstabs > Cells > Observed > Percentage (row) > OK

Maka terhasillah jadual tabulasi silang kita.


Statistik Khi Kuasa Dua (Chi-square statistics)

Digunakan apabila kita hendak mengetahui hubungan antara dua pembolehubah nominal, contoh seperti di atas, kita hendak tahu adakah terdapat hubungan antara kepatuhan dengan latar belakang pendidikan.

Berikut hipotesis kita:

Hipotesis null: Tiada hubungan antara kepatuhan dan latar belakang pendidikan
Hipotesis null: Terdapat hubungan antara kepatuhan dan latar belakang pendidikan


Maka lanjutan dari kaedah tadi;

Analyze> Descriptive Statistics > Crosstabs > Cells > Observed > Percentage (row)

Klik Statistics > Chi square and Phi Cramer's V > OK


Untuk melihat samada terdapat hubungan atau tidak, dalam jadual 'Chi-square test', kita melihat pada baris 'Pearson Chi Square' dan kemudian pada nilai 'asymptotic significance'. Jika nilai tersebut < 0.05, maka kita tolak hipotesis null dan ini bermaksud terdapat hubungan antara dua pembolehubah tersebut.

Sekiranya terdapat hubungan, selanjutnya kita lihat jadual 'Symmetric measures' dan nilai Phi dan Cramer's V digunakan untuk melihat kekuatan hubungan antara dua pembolehubah tersebut dan bolehlah kita tafsirkannya sebagai hubungan positif/negatif yang (sangat lemah, lemah, sederhana, kuat, sangat kuat)

Catatan/ Amaran: OK, sebenarnya ada beberapa assumptions yang kita perlu patuhi sebelum boleh guna chi square ni, antara yang saya nak highlight di sini adalah, dalam jadual crosstabulation tadi, setiap expected frequency harus tidak kurang daripada 5! Jadi anda perlu hati-hati  terutama jika bilangan sampel anda kecil! Lazimnya berdasarkan pengalaman saya, kes ini banyak dalam bidang perubatan/klinikal. Jika tidak anda tak boleh guna ujian ini, antara alternatif lain yang boleh dipertimbangkan adalah untuk menggunakan Ujian Fisher Exact Test dll.

Sekian dulu untuk kali ini. Ada cerita saya kongsi lagi. Terima kasih sudi membaca.